llama.cpp 最新版

Mac ✓ 人工核验免费

👁 50万浏览⬇ 20万下载🗂 AI工具 · 本地大模型💻 macOS

下载官网下载

本站直链下载，点击即开始下载；如直链失效，可使用官网下载Direct download from our mirror; if it fails, use the official download

📸 预览

📖 应用介绍

本地大模型推理的底层引擎，纯 C/C++ 编写，CPU 上也能流畅跑大模型。Ollama、LM Studio 等工具底层都用它。技术用户可以直接用它做极致优化，支持量化、GPU 加速，树莓派都能跑。The inference engine behind local LLMs — written in pure C/C++, it runs large models smoothly even on CPUs. Ollama, LM Studio, and others all build on it. Technical users can push it to the extreme with quantization and GPU acceleration — it even runs on a Raspberry Pi.

本地大模型开源开发工具

💿 安装方法

直接安装：下载 .dmg 文件后双击打开，将应用拖到"应用程序"文件夹即可。Download the .dmg file, double-click to open, then drag the app to the Applications folder.

如遇"已损坏，打不开"：这是 macOS 的安全机制。打开"终端"，输入 This is macOS security. Open Terminal and type sudo xattr -rd com.apple.quarantine /Applications/llama.cpp.app 后回车，输入开机密码即可。 then press Enter and type your login password.

如遇"来自身份不明开发者"：前往"系统设置 → 隐私与安全性"，点击"仍要打开"。