konlu / story-studio
Agent框架
Python
AI Agent 用的短视频全流程创作技能包,直出剪映草稿
Story Studio 是一个给 Claude Code、Cursor 这类 AI Agent 用的技能包,把历史、人物故事类短视频的整条生产线打包:从选题、磨开头钩子、写口播稿,到豆包语音合成配音、本地语音识别对齐字幕时间轴、按配音节奏拆分镜并生成配图画风统一的分镜图,最后直接导出一个能二次编辑的剪映专业版草稿,打开就能微调导出。它内置两套从数百篇爆款逐字稿蒸馏出的写作风格(历史叙事与人物故事)和 370 多篇对标文案库,配图提供厚涂漫画、黑白纪实、历史写实三种画风并用参考图锚定防止跨镜头漂移,还支持只做其中某一步,比如只改稿或只拿现成配音去对齐时间轴。适合做历史科普、人物传记类口播短视频的自媒体创作者和内容团队,如果你不做这类内容,关系不大。
★ 751
24h +12
⑂ 164
创建 10 天前
更新 2 天前
morganlinton / BeautifulRust
AI编程工具
Python
教编程 Agent 写出地道 Rust 的技能包与 clippy 配置
BeautifulRust 是一组给编程 Agent 用的 Rust 技能包,装上后 Claude Code、Codex、Copilot、Cursor 等工具写 Rust 时会自动遵循地道写法。它包含三个技能:写作时引导 Agent 产出规范、健壮的代码;审查时对文件、crate 或 diff 输出带优先级的报告,每条问题都注明违反的规则和修复方式;移植时把 C、C++、Python、Go、JavaScript 代码转成行为一致的 Rust,并先移植原有测试以便验证。另附一份可直接放进 CI 的 clippy 配置,把机器可查的规则固化下来。技能内容提炼自 Google、rust-lang 官方 API Guidelines、Microsoft 等五份风格指南,来源冲突时会给出取舍理由。作者实测三个任务中,带技能的 Agent 通过 29/30 项检查,不带则只有 24/30。适合日常用 AI 编程工具写 Rust、或需要把存量代码迁移到 Rust 的工程师;不碰 Rust 的人可以跳过。
★ 1.7k
24h +14
⑂ 90
创建 13 天前
更新 2 天前
StartLuxLabs / StartLux-Prism
推理部署
Python
StartLux-Decision 模型的快速精确推理引擎
StartLux-Prism 是 StartLux-Decision 系列决策模型的高性能推理引擎,可以理解成这类模型的专用 vLLM 替代品:它直接加载官方发布的 GGUF 量化文件,在 NVIDIA GPU 上提供服务,把每个问题拆解成对各个选项的校准概率,而不是只给一个文本答案。相比官方引擎,它在 H200 上延迟最高降低 5.3 倍,同时输出逐位一致——无论批量大小、GPU 数量还是是否命中前缀缓存,同一请求得到完全相同的概率,这对需要可复现结果的业务很关键。典型场景包括客服意图分类、结构化决策打分,比如一次请求对一段视频提出 24 个结构化问题,27B 模型 0.21 秒返回;4-bit 权重下 27B 还能在单张 32GB RTX 5090 上跑。适合需要部署 StartLux-Decision 模型做分类、决策或结构化输出的算法和推理平台工程师,尤其是对延迟敏感、要求结果可复现的线上服务;不涉及这类模型的读者关系不大。
★ 289
24h +13
⑂ 5
创建 22 天前
更新 9 天前
NousResearch / hermes-official-plugins
Agent框架
Python
Hermes Agent 的官方插件集,含 Home Assistant、Spotify 等集成
这是 Nous Research 为自家 Hermes Agent 打造的官方插件集合,把智能家居、音乐播放、Claude 订阅接入等能力从主程序里拆出来,按需安装。Hermes Agent 本身是一个能跨会话记忆、自我改进的 AI Agent,可跑在终端、桌面应用或 Telegram、Discord 等聊天工具里,而这个仓库提供它的第一批一方插件:Home Assistant 插件让 Agent 监听家庭设备状态变化、通过 REST API 控制灯具空调、把定时任务结果直接推送到手机通知;Spotify 插件封装了播放控制、设备切换、队列、搜索和歌单管理等能力;还有 Claude Subscription DirectSDK 插件用于接入 Anthropic 订阅额度。所有插件都通过统一的插件目录分发,每个条目固定在经过审核的 commit 上,厂商和社区插件也走同一套审核流程。对做 Agent 集成、智能家居自动化或想给 LLM 接外部服务的开发者来说值得翻一翻;如果你不打算用 Hermes Agent,这个仓库本身和你关系不大。
★ 601
24h +10
⑂ 128
创建 25 天前
更新 1 天前
Tencent-Hunyuan / Hy-Memory
Agent框架
Python
腾讯混元的 Agent 认知记忆引擎,覆盖聊天、工作、编码三场景
Hy Memory 是腾讯混元推出的 Agent 认知记忆引擎和 Python SDK,解决大模型 Agent「聊完就忘」的问题。它把记忆分成三套场景:聊天场景下用分层长期记忆记住用户偏好和事实,工作场景下存两层事实与可复用经验,编码场景下追踪代码版本演化的 diff 链。配套的 MemHub 是本地桌面工具,能把 Claude Code、Cursor、Codex 等多个 AI 编程工具的对话和代码轨迹统一到一个本地目录里,跨应用检索。项目还发布了专门用强化学习训练的 Hy-Memory-30B-A3B 记忆写入模型,以及相关学术论文。做 Agent 应用、需要给产品加长期记忆能力的后端和算法工程师值得看;如果你只是日常用 AI 编程工具,MemHub 的跨工具记忆聚合也可能有用,但纯做前端或非 AI 方向的人关系不大。
★ 1.9k
24h +8
⑂ 135
创建 20 天前
更新 1 小时前
HazyResearch / ncm
训练微调
Python
斯坦福提出的概念级预测新架构,面向模型研究者
NCM(Next Concept Modeling)是斯坦福 HazyResearch 团队提出的一种新的语言模型架构思路,配套论文与代码已开源。它想解决的核心问题是:传统 Transformer 逐 token 预测下一个词的方式,在长上下文和推理任务上效率与效果都遇到瓶颈,NCM 改为在更高层的「概念」粒度上做预测,让模型先归纳出中间概念再往下推。从公开信息看,它目前更像一篇研究性工作的实现,附带模型权重和博客解读,尚未提供开箱即用的产品能力。值得看的是做模型架构研究、关注长上下文与推理效率的算法工程师和科研人员,如果你的工作是调用现成模型做应用,这个项目暂时和你关系不大。
★ 1.4k
24h +10
⑂ 183
创建 25 天前
更新 22 天前
Vibha-Ramprakash / claude-video-effects
AI编程工具
Python
给 Claude Code 的 51 种口播视频特效指令
这是一套给 Claude Code 用的视频特效指令集,共 51 种效果。你把自己的口播视频拖进 Claude Code,用一句话点名要什么效果,比如让自己的 Reels 卡片绕着脑袋转圈、在身后砸下一个大红章、或者在说到某句话时灯光暗下只留你亮着,它就会自动完成人脸追踪、图层遮挡处理并渲染出成片,音频保持原样。效果可以按时间段叠加,比如前 6 秒锁定人脸跟随,6 到 10 秒切换成环绕,还能配合你说的特定台词触发。本质上它把过去要在剪映或 After Effects 里手动做的花字、贴纸、转场,变成了对 Claude 说一句话的事。适合做 Instagram Reels、短视频口播的创作者和内容运营,尤其是想批量生产带网感特效视频、又不想学剪辑软件的人;纯后端或算法岗基本用不上。
★ 705
24h +11
⑂ 167
创建 14 天前
更新 2 天前
lemonadesaltbagel / veil
基础设施
Python
给 AI 编程 Agent 加本地脱敏代理,真实 PII 不出机器
veil 是一个跑在本地的隐私代理,专门给 Claude Code、Codex CLI、Aider 这类 AI 编程 Agent 当「脱敏中间层」。它在请求离开你电脑之前,把日志、数据库查询结果、文件里的真实姓名、邮箱、电话、地址、证件号和密钥统一替换成稳定的假名,模型拿到的全是 First_Cfbf 这类占位符;等回答回到你这边,真实值再被还原,所以模型能照常分析 bug,却始终不知道客户是谁。它还能通过 MCP 给 Agent 提供一个只读数据库工具,Agent 用假名写查询,veil 在底层把假名换成绑定参数执行,写操作和多语句一律拒绝。典型场景是:你用 AI Agent 调试线上账单重复扣费问题,日志里有真实信用卡和客户地址,又不想让它们进模型供应商的服务器。对需要在合规或客户合同约束下使用 AI 编程工具的后端、数据和安全工程师来说,这东西直接解决「日志能不能喂给模型」的难题;如果你的代码里根本不碰真实用户数据,关系不大。
★ 116
24h +10
⑂ 15
创建 15 天前
更新 5 天前
cplj / axiocairn-mcp
RAG检索
Python
让 AI 助手量化分析持仓风险、情景推演与回测的 MCP 服务器
Axiocairn MCP 是一个托管的 MCP 服务器,让 Claude、ChatGPT 等 AI 助手直接接入一套量化金融分析能力:你告诉它持仓(比如 50% NVDA、30% MSFT、20% SPY),它会算出行业集中度、HHI、日波动率、相对 SPY 的 Beta、下跌日 Beta 和个股相关性,并附上数据日期和统计窗口。它还能做 what-if 情景推演、估算交易成本与容量、检查回测纪律,以及读取平台自己发布的研报,且每条结论都标注数据日期和局限。对个人投资者或做组合研究的人来说,这相当于把「问 AI 我的持仓风险有多大」从泛泛而谈变成有数据支撑的量化回答;对量化研究员,它提供了一套可复用的研报与回测检查工具。适合关注美股组合风险、想在 AI 助手里做持仓分析的投研和量化从业者;纯技术岗或不碰投资的人关系不大。
★ 79
24h +9
⑂ 0
创建 10 天前
更新 17 小时前
OpenBMB / ForgeKernel
推理部署
Python
自我进化的 GPU kernel 优化 agent,逐代超越参考实现
ForgeKernel 是一个能自我进化的 GPU kernel 优化 agent:它先运行、计时并 profile 一个参考 kernel,把它的架构拆解成一份分阶段的优化任务清单,交给编码 agent 逐步实现,每产出一个被验证更优的 kernel,就顶替参考成为下一轮的起点,直到硬件上榨不出更多性能为止。过程中由 GPU 探针实测确认的硬件特性会沉淀成跨算子共享的知识库。论文里在 Hopper 和 Blackwell 上测试 27 个算子,22 个专家库 kernel(FlashAttention-4、cuDNN、DeepGEMM 等)中有 18 个被追平或超越,最高提升 170.6%,还在 NVIDIA 和华为 CANN 的多个 benchmark 榜单上拿到第一。适合关注算子性能、推理加速的 GPU kernel 工程师和推理框架开发者,以及想用 Agent 做自动优化的研究者;做业务应用或模型调优的人关系不大。
★ 272
24h +8
⑂ 35
创建 6 天前
更新 21 小时前
irraz / vulnerator-ai
Agent框架
Python
用 Hermes 大脑自主驱动 Kali 工具做 OODA 循环渗透测试
vulnerator-ai 是一个自主渗透测试 Agent:由 Nous Research 的 Hermes 模型充当大脑,通过 MCP 协议直接驱动 Kali Linux 容器里的 nmap、nuclei、ffuf、sqlmap 等安全工具,按 OODA(观察-判断-决策-行动)循环自主决定下一步动作,同时用 Playwright 控制真实浏览器做 Web 层面的探测。它刻意做得很轻——没有中心服务、没有 REST API、没有界面,四个容器就是全部。项目还提供一个 MCP 前门,让 Claude Code、Kiro 这类 AI 编程助手能触发、观察、干预或停止一次渗透任务。适合安全工程师、渗透测试人员和红队成员在**已获授权的目标**上做自动化侦察与漏洞挖掘;注意它默认不带范围限制和审计,越界使用风险自负。对不碰安全的从业者来说关系不大。
★ 255
24h +8
⑂ 62
创建 20 天前
更新 11 小时前
Arekejoker / qwen21-nsfw-pose-skill
多模态
Python
Qwen-Image 2.1 本地 NSFW/姿势出图配方与 agent skill
这是一套基于 ComfyUI 和 Qwen-Image 2.1 底模的本地出图配方,主打 NSFW 内容和精确姿势控制,同时打包成 agent skill,可直接在 Claude Code、Codex、Cursor、OpenClaw 里调用。它把散落的要素整合成可复现的流程:作者级提示词结构、专用 NSFW LoRA、136 个 3D 姿势库,以及通过 VNCCS 人偶骨骼旋转实现的姿势迁移——比如给一张已有角色图换姿势但保住脸和服装,或者用 3D 人偶摆好动作再一键出图,还提供 L0 到 L3 的大胆度阶梯让你逐级加料。需要 12GB 以上显存的 NVIDIA 卡或 32GB 以上统一内存的 Mac 才跑得动,模型约 16GB。对多数互联网和 AI 从业者来说这与工作关系不大;值得看的是做 AI 绘画工作流、ComfyUI 集成或 agent skill 封装的工程师,以及想在本地跑 Qwen-Image 出图的创作者。
★ 4.1k
24h +10
⑂ 716
创建 23 天前
更新 9 天前
eagle-hq / EAGLE-4
推理部署
Python
自适应投机解码加速库,接入 SGLang/vLLM 提升 LLM 推理吞吐
EAGLE-4 是一套 LLM 推理加速方案,属于投机解码(speculative decoding)路线:先用一个小草稿模型快速猜出多个 token,再让目标大模型一次性校验,猜对就直接采纳,从而在不改变输出结果的前提下提速。它配套的 eagle-harness 会根据你实际的硬件、并发批量和负载自动决定猜测的深度和草稿树形状,不用手工调参。实测在 Qwen3.8-27B 上单请求最高 3.4 倍加速,并能接入 SGLang、vLLM、TokenSpeed 等主流推理引擎,高并发下也能保持收益。适合负责 LLM 服务部署和推理性能优化的工程师,尤其是需要在有限 GPU 上压低 token 成本、提升吞吐的团队;如果你不碰推理侧,这个项目和你关系不大。
★ 1.1k
24h +10
⑂ 40
创建 15 天前
更新 4 天前
divagr18 / QwenPU
推理部署
Python
把 RISC-V CPU 和向量单元编译进 Qwen 权重,在模型内部跑另一个小模型
QwenPU 是一个把「计算机」编译进大模型权重里的实验项目:它在 Qwen3.5-4B 的权重中硬编码了一颗 32 位 RISC-V CPU 和一个向量单元,让模型在自己的前向传播过程中,把另一个小模型 Karpathy 的 stories260K 当作 C 程序跑起来并写出故事。所有新增权重都不是训练出来的,而是由编译器逐个算出的,因此每一步都可精确复现。相比把每条指令拆成大量 token 的早期方案,向量单元把整行矩阵结果压缩成几个 token 流出,效率提升了一个数量级。目前它还处于早期阶段,完整检查点有 26.7 GB,需要 40 GB 以上显卡才能整体加载。对多数从业者来说这更像一个展示「权重即硬件」可能性的概念验证,值得花两分钟了解思路;真正会动手研究的是关注模型内部计算、权重编译和新型推理架构的研究者与工程师。
★ 119
24h +10
⑂ 14
创建 5 天前
更新 4 天前
Significant-Gravitas / AutoGPT
Agent框架
Python
多智能体协作平台,用自然语言指挥 AI 专家团队干活
AutoGPT 是最早带火「自主 Agent」概念的项目,如今已从一个让 GPT 自己拆任务、自己执行的实验脚本,演变成一套多智能体协作平台:你用自然语言给总管 Otto 下达任务,它再把活儿分派给不同角色的 AI 专家——比如让 Maria 写 SEO 文章、Max 调研潜在客户并起草外联邮件、Frankie 整理会议材料和每日摘要,最后汇总成果交回给你。每个专家的角色、可用的上下文和连接的应用都能按需定制,也能设置账号权限和花费上限,适合把重复性的内容生产、销售线索跟进、行政杂务固化成可反复触发的流程。如果你是运营、市场、销售或创始人,想用 AI 搭一支不睡觉的虚拟助理团队,可以直接试它的托管平台;想私有化部署的工程团队也能自己跑。对纯算法或模型研发岗位来说,它更像应用层产品,参考价值有限。
★ 187k
24h +8
⑂ 45k
创建 2023-03-16
更新 52 分钟前
commaai / openpilot
多模态
Python
开源自动驾驶操作系统,为300多款车升级辅助驾驶
openpilot 是 comma.ai 开源的自动驾驶操作系统,可以理解为给 300 多款量产车加装一套第三方辅助驾驶系统:配合 comma 的车载设备和线束,它接管车辆的自适应巡航与车道保持,让原本只有基础 ACC 的车获得接近高阶辅助驾驶的体验。它解决的是「我的车原厂辅助驾驶太弱,又不想换车」的麻烦,比如长途高速上自动跟车、车道居中,减少驾驶疲劳。项目主要用 Python 写成,包含感知、规划、控制等完整链路,社区活跃,也常被用来研究端到端自动驾驶和实车数据闭环。值得看的人包括自动驾驶算法工程师、做车载感知或规控的从业者,以及想了解真实量产车辅助驾驶系统怎么落地的 AI 工程师;如果你不碰机器人或自动驾驶,和多数人的日常工作关系不大。
★ 64k
24h +6
⑂ 11k
创建 2016-11-24
更新 1 小时前
datalab-to / indra
多模态
Python
CPU 上跑的轻量 OCR,比 Tesseract 快 15 倍
Indra OCR 是一个只有 100 万参数的轻量 OCR 模型,把 PDF 和图片转成 markdown、纯文本或带坐标框的 JSON,可以理解为 Tesseract 的现代替代品,但完全跑在 CPU 上,不需要 GPU 和 PyTorch。它支持 80 多种语言(含中日韩、阿拉伯文等),能识别手写、歪斜 45 度以内的扫描件,并输出每行每块的版面标签和阅读顺序,比如标题、列表、表格、脚注;遇到带文字层的数字 PDF,它只对缺失部分做 OCR。速度是它的主打卖点:32 核机器上约每秒 44 页,比 Tesseract 快 15 倍,4 核约 210 毫秒一页,精度在 OmniParseBench 上也超过 PaddleOCR 的完整流水线。适合需要批量处理文档的后端和数据工程岗位,比如把合同、发票、论文扫描件灌进 RAG 或数据管线的人;如果你只是偶尔转一两个文件,或者做的是手写、数学公式、复杂表格这类高难度场景,它未必是最优解,README 也明确建议那种情况用他们更大的 Chandra 模型。
★ 1.6k
24h +8
⑂ 167
创建 22 天前
更新 15 小时前
mutonby / agentring
Agent框架
Python
让 AI agent 通过 VoIP 给你手机打电话汇报进展
agentring 让你的 AI agent 能直接给你的手机打电话,你也能反过来打电话找它。比如你让 Claude Code 跑一个耗时的数据库迁移,跑到一半失败了,它会像真实来电一样把你的手机(即使锁屏、省电模式下)打醒,一个语音 AI 接起电话告诉你发生了什么,你口头给出决策,转录文本回传给 agent 后它继续干活;反过来你也可以在 App 里主动呼叫 agent,边开车边问「CI 结果怎么样」。它通过 MCP 协议接入 Claude Code、Codex、opencode 等主流编程 agent,通话走自建 VoIP,不需要 Twilio 和电话号码,全程自托管。适合经常跑长任务、需要远程给 agent 下指令的 AI 工程师和重度 AI 编程工具用户;目前仅支持 Android,且处于 pre-release 阶段,只在一台 Pixel 6 上验证过,iOS 用户和纯后端开发者暂时关系不大。
★ 284
24h +8
⑂ 34
创建 12 天前
更新 19 小时前
datamllab / HarborRL
Agent框架
Python
端到端的 Agent 强化学习训练框架
HarborRL 是一个用强化学习训练工具调用型 Agent 的端到端框架,把模型服务、轨迹生成、工具执行、可验证奖励和策略更新串成一条可复现的流水线。它支持以 Qwen、GLM 为基座,用 GRPO、DAPO 等算法在沙箱隔离的任务上训练,覆盖 Terminal-Bench、SWE-Bench 等 200 多个任务,还能接入 Claude Code、Codex、LangGraph、SWE-agent 等 40 多个 harness 框架,通过模型×算法×任务×harness 的组合快速搭实验。它还提供本地 Web 控制台做配置校验、试运行和训练日志查看。适合做 Agent RL 研究或想给 coding agent 做后训练的算法工程师;如果你只调用现成模型 API、不碰训练,这个项目和你关系不大。
★ 119
24h +9
⑂ 9
创建 23 天前
更新 6 天前
uclanlp / OpenVLHarness
Agent框架
Python
免微调让多模态模型调用视觉工具与多模态记忆做证据推理
OpenVLHarness 是一个让多模态大模型(MLLM)变成「会用工具的视觉推理者」的框架,无需微调,模型通过原生工具调用就能在视觉空间里思考和写代码。它内置九种能力:用文字定位物体、OCR 读图、深度估计、相机轨迹、放大细看、文本与图片搜索、访问网页,以及一个 Python 编码代理,每种能力都返回模型可读的证据。配合多模态记忆,图片、框、掩码、深度图和网页引用在整道题中都可被后续工具和代码复用。例如模型可以先定位物体、估算深度再计算空间关系,或裁剪陌生物体做以图搜图并到网页验证答案。在四个领域 22 个基准上,七个骨干模型平均提升 9.7 到 12.6 分。适合做多模态 Agent、视觉推理评测或研究工具调用的算法工程师和研究员,普通后端或前端开发者关系不大。
★ 385
24h +9
⑂ 15
创建 21 天前
更新 6 天前
lemonadesaltbagel / crab
Agent框架
Python
让 Agent 只靠观察行为就重写软件的黑盒复现工具包
CRAB 是一套让 AI Agent 不看源码、只靠观察行为来重写软件的工具包。它把目标程序当成黑盒:驱动 CLI、网页或 Android 应用运行,抓取输出、无障碍树和 API 交互,再由 Agent 归纳成行为规则并逐条对照原程序验证,最后生成一份规格说明书,交给另一个 Agent 按规格从零实现,再用同一套测试比对克隆版与原版的通过率。过程中它会主动注入故障(5xx、断网、超时、畸形响应等)逼出边界行为,检查覆盖率缺口,并拦截任何照抄原文的表达。实际效果上,它在没见过的网页应用上隐藏测试通过率约 97% 以上,CLI 工具更是 397/397。适合做逆向工程、竞品分析、遗留系统重写或需要 clean-room 复现的团队;普通后端或 AI 应用开发者若无此类需求,关系不大。
★ 192
24h +7
⑂ 34
创建 14 天前
更新 2 天前
TonF1917 / claude-desktop-multiple-windows-different-api
DeveloperTools
Python
Claude Desktop 多开工具,每窗口独立 API 与身份隔离
这是一个让 Claude Desktop 在 Windows 上多开的工具:每个窗口可以绑定不同的 API,比如一个窗口保留官方订阅登录,其余窗口走 cc-switch 指向的第三方或自定义 API,互不干扰。窗口数量不限,带一个仿 Anthropic 风格的小 GUI(内置中文),桌面快捷方式、任务栏、托盘图标都做了区分。会话数据在窗口间共享,新会话、置顶顺序、MCP 配置会镜像同步;同一会话在两个窗口打开时会弹通知提醒。它还内置了较强的代理与身份隔离能力:启动前用双源 GeoIP 校验出口 IP 并自动对齐时区、语言,运行中通过网络熔断机制监控代理漂移,同时加固 Chromium 的 DNS、QUIC、WebRTC 防泄漏。适合需要同时管理多个 Claude 账号、在官方订阅与第三方 API 之间切换的重度用户,以及做账号隔离、防关联的运营人员;只是偶尔用用 Claude 的人基本用不上。
★ 983
24h +8
⑂ 65
创建 21 天前
更新 1 天前
Nicovic17 / vanish_webcam
多模态
Python
本地摄像头瞬移消失特效工具,可接入 OBS 直播
这是一个本地运行的摄像头特效工具,能把你的摄像头画面实时变成动漫里的「瞬移消失」效果,类似给直播或视频通话加一层趣味滤镜。它用 MediaPipe 做人脸和手势识别,通过按键或手势触发烟雾、粒子等特效,让人物瞬间消失再出现,视频全程只在本机处理,不上传服务器。输出可以接到 OBS Virtual Camera,方便在直播场景里使用。适合想给直播、短视频或线上会议加点整活效果的内容创作者和主播,尤其是喜欢 Naruto、Goku 这类动漫梗的人;如果你不玩直播或不做视频内容,这个项目和你关系不大。另外要注意,打包版 EXE 需要联网激活邮箱许可证,本地源码版则没有这层限制。
★ 871
24h +8
⑂ 108
创建 26 天前
更新 1 天前
ahtx / kindi
推理部署
Python
让 1GB 古董显卡和 CPU 也能高效跑本地 LLM 的推理引擎
Kindi 是一个专为低端显卡和 CPU 打造的 LLM 推理引擎,可以理解为 llama.cpp 的「老硬件特化版」。它主打让 1 GB 显存的古董 Quadro K420、GTX 1080、RTX 3080、AMD Radeon 780M 核显乃至纯 CPU 都能跑起 Prism ML 的 Ternary-Bonsai-2 系列三值权重模型(2B 到 27B),也实验性支持 Nemotron 3.5 Bolt E4B,并提供 OpenAI 兼容的服务接口,可直接接入各类聊天客户端、脚本和 AI 编程 Agent。它的实际价值在于榨干被遗忘的硬件:在 K420 上比 llama.cpp 快约 13 倍,CPU 上也快 1.6 到 2.7 倍,prompt cache 对多轮 Agent 场景的提速尤其明显(同一份 9,400 token 文档的第三个问题,0.42 秒对 3.10 秒),且默认输出与 llama.cpp 逐 token 一致。适合手里有闲置旧显卡、想在本地低成本跑小模型做实验的算法和平台工程师;如果你只用云端大模型或高端显卡,这项目和你关系不大。
★ 123
24h +6
⑂ 32
创建 16 天前
更新 7 小时前
zita-ch / supermimic_vibed
训练微调
Python
SuperMimic 论文的快速复现,1.5 GPU 小时训练 G1 跟随 40 段动作
这是论文 SuperMimic(用一个可微世界模型做人形机器人全身控制)的非官方复现,作者用 AI 编程助手在一小时内写完,目标是复现论文中 LAFAN1 数据集上的对比实验:让一台 29 自由度的 Unitree G1 人形机器人学会跟随 40 段参考动作(跳舞、跳跃、摔倒爬起、冲刺等),训练只花了约 1.5 个 GPU 小时,评估归一化回报达到 0.829,40 段全部成功;作为对照,论文里的 PPO 基线跑 18 小时、最多 8 卡都到不了 0.82。作者在 README 里坦承代码是快速 vibe coding 出来的「slop」,未经审查,风险自负。适合关注人形机器人全身控制、可微仿真或想快速验证论文结果的具身智能、强化学习研究者和工程师;如果你不做机器人控制或仿真训练,这个项目和你关系不大。
★ 823
24h +8
⑂ 85
创建 14 天前
更新 4 天前