nace-ai/kapitsa

Kapitsa 是一个专为 Apple Silicon 打造的本地推理引擎，可以理解为 Mac 版的 llama.cpp 或 Ollama，但主打极致速度，专门针对 Qwen、Nemotron 等模型优化。它最大的用处是让你在 Mac 上离线跑大模型，并对外提供 OpenAI 和 Anthropic 兼容的 API，因此 Claude Code、Codex、opencode 这类编码 Agent 可以直接接上本地模型使用，无需改动任何工具配置。它的解码速度在官方对比的 38 组模型与 Mac 组合中拿下 33 项第一，还支持树形投机解码、GPU 与 Neural Engine 协同预填充，甚至能让 180B 模型在 48GB 内存的 Mac 上通过 SSD 流式加载跑起来。如果你是用 Mac 做开发的 AI 工程师、想在本地跑编码 Agent 的程序员，或者需要离线、低成本调用大模型的从业者，这个项目值得花几分钟看看；只用云端 API 的人则关系不大。

Star 趋势

仓库信息