rasidi3112/pondok-ai

pondok-ai 是一个命令行工具，一条命令就能在你自己的机器上搭起一整套私有 AI 环境：本地大模型（Ollama）、聊天界面（Open WebUI）、向量检索（Qdrant）和 OpenAI 兼容 API，全部用 Docker Compose 串好，还会根据你的内存、磁盘和 GPU 自动推荐能跑的模型。它解决的麻烦是：想用 ChatGPT 式的对话和 RAG，又不想把数据传到云端，或者公司、学校没有预算采购 API 服务。典型场景是老师用 pondok-ai share 把一台笔记本变成教室里的私有 ChatGPT，学生扫码登录后各自在手机上提问，聊天记录和向量检索全在本地完成；开发者也可以把现有代码里的 OpenAI SDK 直接指向它，零改动切换到本地模型。适合关注数据隐私的教育机构、小团队运维和想低成本自建 AI 应用的后端开发者，如果你只是调用云端 API，和你关系不大。

Star 趋势

话题标签

仓库信息