GitHub 热门
共 38 个项目 · 第 1 / 2 页
Graphify-Labs / graphify RAG检索 Python
把代码库和文档变成可查询知识图谱的 AI 编程助手插件
Graphify 是一个给 AI 编程助手用的技能插件,装进 Claude Code、Cursor、Codex 或 Gemini CLI 后,输入一条指令就能把整个代码库连同文档、SQL 表结构、配置文件和 PDF 一起解析成一张可查询的知识图谱,让你用提问代替翻文件 grep。代码部分走 tree-sitter 的 AST 解析,纯本地、确定性、不经过大模型,每条关系都标注是源码里明确写出来的还是推断出来的,方便核对;文档和 PDF 才走语义解析。它不用向量库和 embedding,靠图遍历回答问题,官方称能显著降低 agent 的 token 消耗。适合需要频繁理解陌生代码库的后端和平台工程师、做代码搜索或 RAG 检索的开发者,以及想让 AI 助手少读文件、多查图的团队;如果你日常不碰大型代码库,关系不大。
★ 142k 24h +413 ⑂ 13k 创建 2026-04-03 更新 1 天前
SoMarkAI / OXR RAG检索 Python
1.3B 参数的开源文档解析模型,把 PDF 转成 Agent 友好数据
OXR 是 SoMark 团队开源的文档解析模型,可以理解为一个更强的 OCR:把 PDF 和文档图片转成带版面坐标的 Markdown 或 JSON,方便直接喂给 Agent 或大模型使用。它只有 1.3B 参数,却在 olmOCR-Bench、OmniDocBench、DocParsingBench 三个基准上排第一,表格解析优势尤其明显,解析速度也是开源同类模型里最快的。它能识别 13 种文档元素,包括公式、表格、代码块、化学方程和化学结构,还能处理 A3 试卷、报纸、竖排文字、手写中文这类难啃的版面。另一个特点是版面分析模块可插拔,你可以换成自己的版面模型,只保留它的内容识别和阅读顺序能力。做 RAG 数据管线、企业文档数字化、把内部资料接入 Agent 的工程师,以及需要批量处理合同、试卷、论文的团队,都值得花几分钟看看;如果你的工作和文档处理、AI 应用落地无关,那跟多数人关系不大。
★ 3.0k 24h +240 ⑂ 226 创建 2026-10-05 更新 11 天前
infiniflow / ragflow RAG检索 Go
开源 RAG 引擎,把复杂文档变成可溯源的问答知识库
RAGFlow 是一个开源的 RAG 引擎,可以理解为给大模型接上「靠谱外脑」的中间层:把散乱的文档喂进去,它负责解析、切分、索引,再在回答时检索出有依据的内容。它的强项是深度文档理解,能处理 Word、PPT、Excel、PDF、扫描件、网页等复杂格式,把非结构化数据抽成结构化知识,还能编译成 Wiki、思维导图、时间线等形态。面对复杂问题时,它会自动拆解、多轮检索并核验证据,答案可溯源到具体引用。适合需要把企业内部资料做成可问答知识库的场景,比如客服知识库、合同审查、研究报告检索。对 AI 应用工程师、算法工程师以及负责企业知识管理的人来说值得一看;纯前端或后端开发、不涉及 LLM 应用的岗位关系不大。
★ 93k 24h +79 ⑂ 11k 创建 2023-12-12 更新 12 分钟前
opendatalab / MinerU RAG检索 Python
把 PDF、Office 等复杂文档解析成 LLM 可读的 markdown/JSON
MinerU 是一个文档解析工具,可以把 PDF、扫描件、Word、PPT、Excel、EPUB、HTML 等格式的复杂文档转成 LLM 能直接读的 markdown 或 JSON,相当于给大模型准备「干净语料」的前置工序。它内置版面分析和 OCR,能处理双栏排版、表格、数学公式这类通用解析器容易翻车的场景,还提供从快速预览到高质量解析的多档解析策略,按需选择速度与质量。除了单文件转换,它还带本地文档库能力,支持内容检索、按页或块续读,并保留稳定的引用定位,方便 Agent 在长文档中引用出处。如果你在做 RAG 检索、文档问答、Agent 工作流,或者需要批量把公司内部资料、论文、合同喂给模型,它会直接命中你的痛点;纯做前端或业务后端开发的人则关系不大。
★ 83k 24h +52 ⑂ 6.8k 创建 2024-02-29 更新 16 小时前
docling-project / docling RAG检索 Python
把各类文档统一解析成结构化数据,供生成式 AI 使用
Docling 是 IBM Research 开源的文档解析工具,可以理解为给大模型准备语料的「文档转结构化数据」流水线:把 PDF、DOCX、PPTX、XLSX、HTML、EPUB、邮件、图片、音视频等几十种格式统一解析成结构化表示,再导出为 Markdown、HTML 或无损 JSON。它的强项是复杂 PDF 理解——能还原页面版式、阅读顺序、表格结构、公式、代码,还能识别扫描件里的文字(OCR)、把柱状图饼图转成表格或代码,甚至理解化学分子式。解析结果可直接对接 LangChain、LlamaIndex、Crew AI 等框架,也支持本地运行,适合处理合同、专利、财报(XBRL)、学术论文(JATS)等敏感资料。值得看的是 RAG 应用开发者、数据工程和 AI 应用架构师:如果你的场景是把公司内部文档库喂给检索或 Agent,Docling 能省掉大量自己写解析器的功夫;只做模型训练或纯前端的读者关系不大。
★ 70k 24h +34 ⑂ 5.2k 创建 2024-07-09 更新 16 分钟前
Mintplex-Labs / anything-llm RAG检索 JavaScript
开箱即用的私有化 ChatGPT,集成文档问答与 AI Agent
AnythingLLM 是一个开箱即用的私有化 ChatGPT 替代品,把聊天、文档问答、AI Agent 和向量数据库打包成一个应用,本地优先运行,也能自托管到服务器。你可以接入 OpenAI、Anthropic、Gemini 等云端模型,或直接跑本地开源模型,然后把 PDF、DOCX 等文档丢进去,用自然语言提问并获得带引用来源的回答。它内置了无代码 Agent 编辑器、定时任务、记忆功能和 MCP 兼容,还能按规则自动路由到最合适的模型,多用户版本可做权限隔离。典型场景是企业想把内部文档、合同、知识库变成一个不外泄数据的问答助手,或者团队需要一个可定时执行任务的自动化 Agent 平台。值得看的是负责企业知识库落地的算法与后端工程师、关注数据合规的技术负责人,以及想快速搭私有 AI 应用的独立开发者;如果你只用云端 API 写 prompt,和你关系不大。
★ 67k 24h +27 ⑂ 7.6k 创建 2023-06-04 更新 9 小时前
sansan0 / TrendRadar RAG检索 Python
AI 舆情热点监控助手,聚合多平台热榜并智能推送
TrendRadar 是一个 AI 驱动的舆情与热点监控助手,可以理解为「自动刷热榜 + 智能筛选」的替代品:它聚合多平台热榜和 RSS 订阅源,用关键词精准过滤,再交给 LLM 做新闻筛选、翻译和分析简报,直接推送到微信、飞书、钉钉、Telegram、邮件等手机渠道,还支持接入 MCP 让你用自然语言对话做情感洞察和趋势预测。典型场景是:你关心某个行业动态或竞品舆情,不想每天手动翻十几个平台,它定时把真正相关的新闻连同 AI 摘要送到你手机上。适合需要盯行业热点的产品经理、运营、市场和舆情岗位,以及想搭个人资讯助手的技术爱好者;如果你没有持续追踪信息流的需求,和多数人关系不大。
★ 63k 24h +27 ⑂ 24k 创建 2025-04-28 更新 9 小时前
ARahim3 / DigUp RAG检索 Swift
用自然语言跨格式语义搜索本地文件的桌面工具
DigUp 是一个本地优先的语义文件搜索工具,可以理解为「用自然语言搜你电脑里所有文件的 Spotlight」。它基于 Google DeepMind 的多模态嵌入模型 EmbeddingGemma 2,把图片、PDF、文档、录音、视频和代码放进同一个语义空间,你用自己的话描述要找什么,它就跨格式找到内容匹配的文件。比如搜「沙滩上的狗」能翻出照片,搜「他们聊睡眠的地方」能跳到播客对应分钟,搜「租约里关于宠物的条款」能定位到 PDF 具体页,还能用英文搜到孟加拉语或阿拉伯语写的笔记。发票号、错误码这类精确字符串也照常匹配,Mac 上连截图里的文字也能搜。所有索引都在本机完成,文件不出电脑,无需账号。适合经常在本地堆积大量截图、录音、PDF 和代码仓库、却苦于「记得内容但找不到文件」的开发者、研究者和内容工作者;如果你的文件量不大或全在云端,关系就不大。
★ 6.2k 24h +27 ⑂ 496 创建 27 天前 更新 9 天前
Faixiang / Moodle-MCP RAG检索 Python
把 Moodle 教学平台接入 MCP,让 AI 助手读取作业、测验和课件
Moodle-MCP 是一个零依赖的 MCP server,把全球大量高校在用的 Moodle 教学平台的 Web Service API 封装成十个只读工具,让 Claude、Cursor 等 MCP 客户端直接读取课程数据,不用开浏览器、不用爬虫。它能列出你选修的所有课程,把未提交的作业按「快到期/已逾期/不着急」分类并算出剩余天数,读取测验的作答状态和成绩,还能按周下载课件和作业附件到本地文件夹,甚至生成一份包含新增内容和截止日期的周报。配套的 moodle-course-watch skill 在此基础上做课程内容差异对比和未交作业提醒。适合两类人:一是高校学生,用它在 AI 助手里统一管理多门课的作业、测验和资料,避免漏交;二是给学校做教育工具的开发者,Moodle 之前没有通用 MCP server,这是现成的接入层。如果你既不用 Moodle 也和教育场景无关,这个项目基本用不上。
★ 147 24h +25 ⑂ 0 创建 9 天前 更新 3 天前
MemPalace / mempalace RAG检索 Python
本地逐字存储对话历史并语义检索的 AI 记忆系统
MemPalace 是一个本地优先的 AI 记忆系统,可以理解为给 Claude Code 这类 AI 编程助手配一个长期记忆库:它把你的对话历史按原文逐字存下来,用语义搜索找回,不做摘要也不改写,数据不出本机。索引结构模仿记忆宫殿,人和项目是「翼」、话题是「房间」、原始内容是「抽屉」,所以检索可以按范围缩小,而不是在一堆平铺文本里捞。它在 LongMemEval 上拿到 96.6% 的 R@5,全程零 API 调用,检索层可插拔,默认用 ChromaDB。实际场景是:Claude Code 会话 30 天过期后你想找回当初为什么选 GraphQL、某个决策的原始上下文,它能直接翻出原文。适合重度使用 AI 编程工具、经常需要跨会话追溯历史决策的工程师,以及想给团队搭共享记忆服务的人;不常用 AI 助手的读者关系不大。
★ 60k 24h +22 ⑂ 7.6k 创建 2026-04-05 更新 14 小时前
lexifina / global-law RAG检索 HTML
用 git 历史管理全球各国法律,可查任意日期生效的法条
这是一个把各国法律文本全部装进 git 历史的项目:每个国家的法律各自是一个仓库,用 submodule 挂到总库里,每部法律生效就对应一次 commit,因此可以查到任何国家在任何一天的法律原文,以及每个字最后是被哪条法律改的。它自带一个 MCP server,接入 Claude Code、Cursor 等 AI 编程工具后,可以直接用自然语言提问,比如「2022 年 5 月 1 日美国破产法第 1182 条写了什么、最后一次修改它的是哪部法律」,也能把判决书或法律文书与当时生效的法条做比对。对法律科技、合规产品的从业者来说,这是现成的结构化法律语料和检索底座,省去自己爬取各国官方法律数据库的功夫;做跨境业务、需要追溯法条历史版本的团队也用得上。纯做互联网或 AI 工程、不涉及法律场景的读者,跟它关系不大。
★ 1.8k 24h +20 ⑂ 170 创建 7 天前 更新 22 分钟前
sahenjp / RustXNG RAG检索 Rust
面向 AI Agent 的自托管元搜索与 grounding 引擎
RustXNG 是一个用 Rust 写的自托管元搜索引擎,基于 SearXNG 改造,专门面向 AI Agent 做网页检索和 grounding。它自己不爬网页也不建索引,而是把查询发给多个外部搜索引擎、合并结果后以 JSON 返回,还能按需抓取页面正文,让 Agent 只把必要的证据文本喂给模型,控制 token 消耗。典型用法是把它跑在本机或内网,给能执行命令的 Agent 当本地搜索工具,比如查文档、找最新资料、为回答附上出处。需要注意的是,搜索词仍会发往上游引擎,作者已因合规问题移除了 Google 相关集成,部分数据源默认关闭,公开部署或高频调用前得自行核对各引擎条款。适合在做 Agent 应用、RAG 检索链路的工程师,以及想给本地 LLM 接联网搜索能力的开发者看看;纯做前端或业务后端的人关系不大。
★ 831 24h +19 ⑂ 64 创建 18 天前 更新 16 分钟前
anonnerdfrenzy / survival-llm RAG检索 Python
断网可用的本地生存知识库 AI 助手,答案附原文出处
这是一个完全跑在本地电脑上的离线 AI 助手加生存知识库,断网也能用,可以理解为「本地版 RAG 问答 + 应急百科」。它内置约 150 万篇来自 Wikipedia、WikiMed、MedlinePlus、CDC、FEMA、美军生存手册等权威来源的文章,你问「停电时食物怎么保存」「烧伤怎么处理」「怎么净化水」,它会检索这些文章作答,并把引用的原文段落高亮给你看,还能展开查看逐步推理过程。你也可以把自己的 PDF、Word、EPUB、网页丢进去一起检索,比如发电机说明书或家庭应急计划;它还会记住「女儿对青霉素过敏」这类备注供后续对话使用。适合经常需要离线环境、重视隐私和答案可溯源的用户,比如户外从业者、应急管理人员,或想给家里备一份断网应急查询工具的人;日常在办公室用云端 AI 的从业者关系不大。
★ 1.4k 24h +16 ⑂ 132 创建 11 天前 更新 6 天前
elastic / elasticsearch RAG检索 Java
开源分布式搜索引擎,兼作 RAG 与向量检索底座
Elasticsearch 是一个分布式搜索与分析引擎,可以理解为开源界最主流的全文检索底座,同时兼具向量数据库能力。它能在海量数据上做近实时搜索,典型场景包括网站商品搜索、日志与指标检索、应用性能监控和安全日志分析。对 AI 从业者来说,它现在更重要的角色是 RAG 检索层:把文档切块后向量化存入,再配合生成式模型做检索增强,或者直接做语义相似度检索。比如你要给内部知识库接一个问答机器人,或者给电商搜索加上语义召回,底层往往就是它。值得看的人包括后端与搜索工程师、搭建 RAG 应用的 AI 工程师,以及负责日志可观测性的运维;如果你的工作和搜索、检索、日志分析都无关,那这个项目和你关系不大。
★ 78k 24h +10 ⑂ 26k 创建 2010-02-08 更新 12 分钟前
StashDock / StashDock RAG检索 HTML
本地个人上下文库,收集整理资料并注入 AI 对话复用
StashDock 是一个本地优先的个人上下文库,把散落在浏览器标签、文件夹和历史对话里的参考资料集中到一处,方便你在不同 AI 对话中反复调用。你可以通过 Chrome 扩展收藏网页、导入书签,或添加本地文件、笔记、提示词和规则,用标签分组管理,再挑选需要的部分注入到 ChatGPT 等 AI 对话里;它还通过 MCP 让 AI 反向帮你检索库中资料、把聊出来的结论存回库中,比如让 AI 找出与当前项目相关的参考,或把刚约定的写作规范保存为可复用条目。对每天在多个 AI 工具间切换、需要反复喂同类背景资料的从业者来说,它省去了每次重新粘贴上下文的麻烦;如果你很少用 AI 或不介意重复整理资料,关系不大。
★ 116 24h +11 ⑂ 3 创建 16 天前 更新 3 天前
HelixDB / helix-foundry RAG检索 Go
用 AI agent 把公司多源数据整理成可溯源的知识图谱
Helix Foundry 是一个把公司散落各处的数据整合成一张知识图谱的工具:它提供 PostgreSQL、MySQL、S3、Stripe、GitHub、Slack、Notion 等几十种连接器,把数据库表、文档和表格文件接进来,再由一个 AI agent 根据你的业务目标自动起草一套 ontology(实体类型、关联关系和规则),你审阅修改后加载进 HelixDB,形成一张可探索、可提问的统一图谱。它的核心卖点是可溯源:图里每个值都能追回原始的数据库行或文档引文,Analyst 回答问题时会给出图表、执行过的查询和每条结论的出处,文档间冲突的值会等你裁决;同步机制只读增量变化,避免全量重跑。适合数据工程师、数据分析师和需要跨系统做业务问答的后端或 AI 应用开发者,尤其是那些受困于「数据散在十几个系统、想让 AI 帮忙梳理但又怕它胡编」的团队;如果你不涉及数据整合或知识图谱,和你关系不大。
★ 2.0k 24h +9 ⑂ 301 创建 29 天前 更新 3 小时前
meilisearch / meilisearch RAG检索 Rust
Rust 写的轻量搜索引擎,支持全文与语义混合搜索
Meilisearch 是一个用 Rust 写的开源搜索引擎,可以理解为 Elasticsearch 的轻量替代品:你把商品、文章、文档等数据灌进去,它对外提供搜索 API,支持全文检索、语义向量检索以及两者结合的混合搜索。它的卖点是开箱即用的搜索体验——毫秒级响应、边打字边出结果、自动容忍拼写错误,还带分面筛选和地理搜索,不需要像传统搜索引擎那样先调一堆相关性参数。典型场景是电商站内搜索、SaaS 产品的文档或知识库检索、内容平台的推荐与查找,比如用户输错字也能搜到正确商品,或者用自然语言问句直接命中语义相近的结果。值得看的是负责站内搜索、推荐系统的后端和算法工程师,以及需要快速给产品加搜索能力的全栈开发者;如果你的工作和搜索、RAG 检索无关,这个项目可以略过。
★ 59k 24h +9 ⑂ 2.7k 创建 2018-04-23 更新 16 小时前
jaikydota / BullFlow RAG检索 TypeScript
企业知识库驱动的 AI 内容创作与 17 平台一键分发系统
推量牛是一套开源的企业级 RAG 加内容营销系统,可以理解为「企业知识库 + AI 内容工厂 + 矩阵分发工具」三合一:先把公司资料、产品文档、图片音视频沉淀成专属知识库,再由基于 LangGraph 的 Agent 据此创作文章、图文、图片和视频,最后一键发到抖音、小红书、公众号、LinkedIn、YouTube 等 17 个平台,并回流发布数据。它的检索链路全部用 BGE-M3、Milvus、Elasticsearch 等开源模型本地跑,不产生调用费,企业资料不出内网;生成环节走 OpenAI 兼容接口,供应商可换。项目还内置了多租户、计费、支付、后台等完整商用能力,MIT 协议可直接拿去运营。适合做品牌社媒矩阵运营、MCN 代运营、跨境电商出海营销的产品和运营负责人,以及想私有化搭建企业知识问答的 ToB 团队;纯技术岗若只想找个 RAG 参考实现也值得翻翻,普通开发者关系不大。
★ 327 24h +10 ⑂ 24 创建 22 天前 更新 21 天前
cplj / axiocairn-mcp RAG检索 Python
让 AI 助手量化分析持仓风险、情景推演与回测的 MCP 服务器
Axiocairn MCP 是一个托管的 MCP 服务器,让 Claude、ChatGPT 等 AI 助手直接接入一套量化金融分析能力:你告诉它持仓(比如 50% NVDA、30% MSFT、20% SPY),它会算出行业集中度、HHI、日波动率、相对 SPY 的 Beta、下跌日 Beta 和个股相关性,并附上数据日期和统计窗口。它还能做 what-if 情景推演、估算交易成本与容量、检查回测纪律,以及读取平台自己发布的研报,且每条结论都标注数据日期和局限。对个人投资者或做组合研究的人来说,这相当于把「问 AI 我的持仓风险有多大」从泛泛而谈变成有数据支撑的量化回答;对量化研究员,它提供了一套可复用的研报与回测检查工具。适合关注美股组合风险、想在 AI 助手里做持仓分析的投研和量化从业者;纯技术岗或不碰投资的人关系不大。
★ 79 24h +9 ⑂ 0 创建 10 天前 更新 17 小时前
Toyhom / awesome-computational-character-modeling RAG检索 TeX
角色扮演 Agent 调研论文的分类阅读清单
这是一份跟随论文《Computational Character Modeling: A Survey of Role-Playing Agents from a Behavioral Science Perspective》的文献阅读清单,收录了 143 篇角色扮演 Agent 相关论文,按论文的章节结构组织成三大部分:角色建模方法(行为模仿、认知状态、规则经验、情境交互、人格特质等路线)、角色信息与数据基础(角色来源、数据模态、构建与质量控制),以及评估体系(覆盖身份一致性、语言风格、人格情绪、记忆与长期一致性、多角色社交、安全边界、沉浸感等九大评估目标,以及规则打分、LLM judge、人工评估等打分方式)。它把散落在 ACL、AAAI、arXiv 等处的角色扮演研究串成了一张有脉络的地图,还提供可下载的文献目录。适合做角色扮演 Agent、虚拟人、AI 陪伴或 NPC 相关产品的算法与研究工程师,以及关注 LLM 评估方法的从业者快速摸清这个子领域的全貌;如果你的工作与角色扮演或多智能体无关,这份清单和你关系不大。
★ 143 24h +9 ⑂ 2 创建 3 天前 更新 3 天前
wendersoon / radar-cnpj-mcp RAG检索 TypeScript
让 AI 助手查询巴西 CNPJ 企业登记数据的本地 MCP 服务
这是一个把巴西联邦税务局公开的 CNPJ 企业登记数据搬到本地的 MCP 服务器兼命令行工具,让 AI 助手能直接用自然语言查询企业信息。原始数据有 7000 万家企业的记录、动辄几个 GB,它会下载并整理成本地数据库,毫秒级响应,且数据不出本机、免费无调用限制。实际用起来,你可以问「Campinas 有多少家活跃的汽修厂」,它会自动把「汽修厂」翻译成对应的 CNAE 行业代码并给出统计,还能按城市、行业、企业规模、MEI 身份、开业年份筛选,导出 CSV,或对比多个城市的行业分布、看某行业逐年开张与注销的趋势。适合做巴西市场调研、销售线索挖掘、区域经济分析的人,比如市场分析师、BD、咨询顾问;如果你的工作和巴西业务无关,这个项目基本用不上。
★ 121 24h +9 ⑂ 15 创建 3 天前 更新 2 天前
dodo-labs-ai / mem-forge RAG检索 Python
给编码代理提供带出处的团队知识记忆层
MemForge 是给 AI 编码代理用的记忆层,可以理解为 Claude Code、Codex 这类工具的「团队大脑」。它把散落在 Confluence、Jira、Teams 等系统里的 wiki、工单和聊天记录同步下来,用模型提炼成一条条带出处的短记忆,代理通过 MCP 检索这些记忆,而不是每次从零翻文档。它解决的具体麻烦是:新加入的代理只看得到本地代码库,对团队既有的技术决策、约定和历史一无所知;而直接把整篇文档塞进上下文又太占空间。MemForge 只返回精确的事实并附带原文出处,文档过期或两处说法冲突时会自动更新或标注。适合正在用 Claude Code、Codex 等 AI 编程工具、且团队知识散落在多个协作系统里的研发团队,尤其是需要让代理理解历史决策的工程师;单人开发者或不依赖 AI 编码代理的人关系不大。
★ 55 24h +5 ⑂ 1 创建 9 天前 更新 1 天前
chatvia / chatvia RAG检索 PHP
自托管的 AI 客服机器人平台,基于自有知识库回答问题
ChatVia 是一个可自托管的 AI 客服机器人平台,可以理解为开源版的 Intercom 或 Zendesk AI:团队把产品文档、FAQ、网页甚至音视频喂给它,它就基于这些自有知识回答用户提问,数据全部留在自己的服务器上。检索用的是 PostgreSQL 混合搜索(向量加全文),并支持 MCP 和自定义工具调用,还内置了护栏机制,遇到答不了的问题能转人工客服。做好的机器人可以一键投放到托管聊天页、网站悬浮窗、Slack、Teams、WhatsApp、Telegram 或 REST API。技术栈是 Laravel 加 Vue,用 Docker 部署,可搭配开源权重模型。适合正在搭建智能客服、内部知识库问答的后端或全栈工程师,以及希望数据不出内网的团队;如果你不负责客服系统或 RAG 应用落地,跟你的关系不大。
★ 116 24h +3 ⑂ 0 创建 20 天前 更新 2 天前
zylon-ai / private-gpt RAG检索 Python
把本地模型包装成生产级 AI 应用后端的开源 API 层
PrivateGPT 是一个开源的 API 层,把本地跑的大模型包装成可直接用于生产的 AI 应用后端,可以理解为「本地版的 Claude/OpenAI API」:它自己不运行模型,而是对接任何 OpenAI 兼容的推理服务(Ollama、llama.cpp、vLLM 等),在其上补齐消息流式接口、文件与文档摄取、带引用的 RAG 检索、网页搜索与代码执行等内置工具、MCP 连接器、数据库和 CSV 的结构化访问等高层能力。典型场景是企业内网部署:比如把公司文档喂进去做带出处的问答,或让 Claude Desktop、Word/Excel 插件、n8n 工作流这些现成工具直接以本地模型为后端,数据不出机房。值得看的是需要私有化 AI 的后端和平台工程师、正在评估 on-premise 方案的技术负责人,以及想给内部工具快速接上本地模型的开发者;如果你只用云端 API 或不涉及 AI 应用开发,和你关系不大。
★ 57k 24h +2 ⑂ 7.6k 创建 2023-05-02 更新 1 天前
fatsearch / fatsearch RAG检索 Rust
给 AI Agent 省 99% token 的网页抓取阅读工具
fatsearch 是给 AI Agent 用的网页抓取和阅读工具,可以理解为「网页版的 ripgrep」:它把网页清洗成干净的 Markdown 存到本地,先给 Agent 一个简短的目录大纲,Agent 需要细节时只读其中一节,而不是把整页塞进上下文。官方数据显示,同一个 Wikipedia 页面,其他抓取方案要 7 万到 11 万 token,它只要 918 个,模型账单降到约两百分之一;菜单、cookie 横幅、追踪脚本全部剔除,价格、日期、数字则保留。它还能读 Agent 自带 fetch 搞不定的 JS 页面、PDF 和反爬墙,先试免费的普通 HTTP,失败再按价格从低到高升级到你自己的 provider key。提供 CLI 和 MCP 两种接入方式。值得看的是正在搭 Agent 工作流、被网页抓取 token 成本和 403 拦截困扰的工程师,尤其是用 Claude Code 之类工具做检索类任务的人;如果你不涉及 Agent 联网搜索,关系不大。
★ 54 24h +2 ⑂ 2 创建 19 天前 更新 13 天前
1 / 2 下一页