GortexAI / franco
Agent框架
Python
跑在 Claude Code 订阅上的自动外联销售代理
Franco 是一个跑在你本机上的自动外联销售代理,用你已有的 Claude Code 或 Codex 订阅驱动,不额外产生模型 API 账单。它接手一份客户名单,为每个客户找到写信的理由,从你自己的邮箱发出简短的邮件序列,再读取并处理回复,所有引用的事实都记录来源。它有三种工作方式:默认模式下模型会自己找企业、读官网、挑对人并起草个性化序列;模板模式则逐字发送你审核过的文案,合规页脚和退订规则由代码强制执行;还有一种漏斗模式,把客户分进最窄的销售漏斗再按既定故事写信。每封邮件默认都要你过目,也可以开自动发送,新战役一律先预览、签字后才发。适合做 outbound、冷邮件开发的销售和增长负责人,以及想用 AI 提效但要保留人工审核权的团队;纯技术岗或不做主动获客的人关系不大。
★ 721
24h +3
⑂ 409
创建 22 天前
更新 1 天前
hi3d-official / Hi3Dv1.0
多模态
Python
用参考图把粗糙3D网格精修到高分辨率几何细节
Hi3D v1.0 是一个高分辨率 3D 几何精修工具,可以理解为 image-to-3D 流程里的「后期打磨」环节:你先用 TripoSR、Trellis 之类的工具从一张照片生成一个粗糙的 3D 网格,再拿同一张参考图喂给它,它会把粗糙模型逐步细化成细节丰富的高精度几何,官方展示能还原浮雕层次、建筑线脚、鳞片牙齿这类微小结构。它基于 Sparc3D 架构,分三轮把稀疏网格从 512³ 推到 1536³,训练用了约两百万个 3D 资产,仓库只提供推理代码,模型权重放在 Hugging Face。做 3D 打印、游戏资产、数字孪生或电商 3D 展示的从业者,如果苦恼于生成的模型表面糊、细节丢,值得试一下;只做纯文本或模型训练的人则关系不大。
★ 679
24h +3
⑂ 65
创建 21 天前
更新 14 天前
lucannez64 / darling-lol
Python
用 Darling 兼容层在 Linux 跑 macOS 版英雄联盟客户端的实验项目
这是一个让《英雄联盟》macOS 客户端在 x86-64 Linux 上跑起来的实验性项目,原理是借助 Darling 这个「Linux 上的 macOS 兼容层」(类似 Wine 之于 Windows)加载 Riot 的 macOS 版客户端,并对 Darling 的 30 多个组件打了兼容补丁,修掉了图形、音频、输入、启动崩溃等问题。作者明确表示这主要是一次技术挑战,目前已能手动打完 ARAM,中端配置实测约 110-135 FPS,但仍是开发快照,且 Riot 的反作弊极可能导致账号被封,作者反复警告别用主号、别打排位。对多数从业者来说这和工作关系不大,值得看的只有两类人:一是关心 Linux 游戏兼容层、Darling 这类 macOS 模拟技术的系统/客户端开发工程师,二是 Riot 内部或做跨平台发行的团队——README 里那封写给 Riot 的公开信,直指 Linux 玩家长期被排除在外的痛点。
★ 677
24h +3
⑂ 65
创建 25 天前
更新 2 天前
pinganbbOvO / ai-companion-kit
Agent框架
JavaScript
把 LLM 接进 QQ 和安卓手机的拟人化 Agent 套件
这是一个把大模型接进 QQ 聊天和安卓手机的开源套件,可以理解为「给 AI 一个能记事、会看场合的社交身份和一双能操作手机的手」。它由三块拼成:陪聊模块负责角色卡、按人存储的记忆账本、模拟真人打字节奏的发送策略,以及群聊里该不该接话的唤醒规则;phone-mcp 让 AI 通过 MCP 协议控制安卓手机,能点按、滑动、中文输入、截图录屏、执行连招,还能操作网易云和 QQ 空间;qzone 系列则让它自己发动态、点赞、评论,并内置了严格的频率限额。作者展示的用法是:AI 自己翻相册挑图存进图库并写备注、被限流时用拟人化的话安抚你、每天读角色卡和聊天记录写第一人称日记。适合对 Agent 记忆机制、MCP 工具设计、拟人化交互或 QQ 自动化感兴趣的开发者和 AI 爱好者;纯做业务后端或模型训练的人关系不大。
★ 555
24h +3
⑂ 41
创建 29 天前
更新 11 天前
HRuiCcc / RuiC-oc-ferry
模型服务
JavaScript
把 OpenCode 免费模型自动检测并接入 WorkBuddy/DSH 的托盘工具
OC Ferry 是一个跨平台托盘应用,作用是把 OpenCode 的免费模型池「摆渡」给 WorkBuddy 和 DSH(DeepSeek Harness)这类客户端使用。它自己起一个只监听本机的 OpenAI 兼容转发口,客户端填上就能直接调用,全程不需要 API Key 或登录。它解决的麻烦很具体:OpenCode 目录里带 free 字样的模型不一定真免费,能聊天也不代表能按客户端的工具调用协议干活,而且免费池随时上下线。OC Ferry 会按价格字段筛出真免费的模型,逐个并发探测它们能否正确产生工具动作,判定结果缓存后写进 WorkBuddy 的 models.json 或 DSH 的配置文件,退出时再把自己写入的条目摘干净。适合在 WorkBuddy 或 DSH 里想白嫖免费模型、又懒得手动筛选和维护配置的个人开发者与 AI 工具重度用户;如果你不用这两款客户端,关系不大。
★ 484
24h +3
⑂ 85
创建 27 天前
更新 5 天前
yetone / alma-relay
JavaScript
Alma 远程访问的自建中继,手机随时控制桌面
alma-relay 是 Alma Remote Access 的自建中继服务,让你在手机上远程控制桌面上的 Alma,无需端口转发、VPN 或第三方服务器。桌面端主动向外建立连接并保持长开,手机的请求经中继转发过去,支持 HTTP、SSE 流式响应和 WebSocket。默认开启端到端加密,中继只看到密文,不落盘也不接触连接码。它解决的麻烦是:不想把远程桌面流量托付给官方托管的 relay.alma.now,或希望中继离自己更近、跑在自己可控的基础设施上。部署方式灵活,Cloudflare Workers 免费计划即可跑起来,也可用 Docker 部署到自有服务器。适合已经在用 Alma、注重隐私和数据自主的个人开发者或小团队;如果你没用过 Alma,或只是想找通用的远程桌面方案,这个项目和你关系不大。注意自建中继无法给官方 iOS 应用发推送通知,其余功能正常。
★ 464
24h +3
⑂ 62
创建 6 天前
更新 4 天前
dragonwolfshovel / youtube-uploader
Python
YouTube 视频批量上传与元数据管理命令行工具
这是一个用 Python 写的 YouTube 视频批量上传工具,走官方 YouTube Data API v3,不用开浏览器就能把视频传上去,相当于把网页上重复点选的上传、填标题、传封面、设定时这些操作脚本化。它支持一次上传多个视频、自动设置自定义缩略图、批量编辑标题描述标签分类,还能预约发布时间,上传中断后可以续传避免重复提交,并内置 API 配额监控,防止撞上 Google 的调用限额。认证用官方 OAuth 2.0,凭证只存在本地。适合需要定期大量发片的内容创作者、频道运营和视频归档人员,比如每周固定排期更新的自媒体团队,或者要把历史素材批量同步到 YouTube 的档案管理者。如果你只是偶尔手动传一两个视频,或者工作跟 YouTube 内容分发无关,那这个项目跟你基本没关系。
★ 429
24h +3
⑂ 358
创建 1 天前
更新 1 天前
TagPhaseArcade / tiktok-uploader
Python
TikTok 视频批量上传与定时排期的桌面工具
这是一个用 Python 写的 TikTok 视频批量上传与排期工具,可以理解为「不打开手机 App 也能发 TikTok」的桌面端助手。它能让你一次性上传多个视频,统一填写描述、话题标签和提及,还能把视频安排到未来某个时间点自动发布,上传中断后也能续传而不产生重复内容。认证基于本地保存的会话,凭据不会被发到第三方服务器,跨 Windows、macOS、Linux 使用。典型场景是 MCN 或个人创作者手里攒了一批成片,不想在手机上一条条手动点上传,或者想按固定节奏定时发帖保持账号活跃度。如果你是做海外短视频运营、社媒代运营或内容矩阵管理的人,这个工具能省下大量重复劳动;但如果你只是偶尔发一两条视频,或者工作与 TikTok 运营无关,那它跟你基本没什么关系。
★ 429
24h +3
⑂ 336
创建 1 天前
更新 1 天前
Balanov / verdict
Agent框架
Python
197KB 本地小模型,判断 CLI 调用真实成败,退出码 0 不算数
Verdict 是一个只有 197 KB 的本地小模型,专门判断命令行工具调用到底成功了没有。它的出发点是「退出码为 0 不等于成功」:进程可能一个测试都没跑、返回了 HTTP 500、或者只做了 dry-run,却依然正常退出。Verdict 会读取命令、退出码、stdout 和 stderr,输出 success、failure、blocked 或 unknown 四种结论,帮助 Agent 区分「真失败」和「环境被挡住了」,从而决定该重试、该停下还是可以宣称完成。在 48 个训练时完全没见过的 CLI 家族上,它的准确率达到 93.2%,而只看退出码的基线只有 47.9%。推理纯 Python 标准库、CPU 上 0.5 毫秒出结果,不联网不上传日志。README 也明确说它只是辅助分类器,不能替代确定性检查。适合在做 coding agent、CI 流水线或工具调用编排、需要判断 Agent 是否谎报成功的从业者看一眼。
★ 243
24h +3
⑂ 0
创建 4 天前
更新 4 天前
R238Company / meu-emprego-novo
Agent框架
Python
用 AI 按职位批量生成不编造经历的定制简历
这是一个用 AI 帮你找工作的工具,作者是一位有 30 年经验的 IT 从业者,靠这套方法 5 个月后成功再就业。它把求职当成一条数据流水线:你先写一份完整诚实的「主档案」,之后每份简历、每段面试回答都从这份档案生成,AI 只负责重排、压缩和翻译,不允许编造经历。项目提供两条路线,一条是用现成提示词配合任意聊天助手,另一条是基于 CrewAI 和 AWS Bedrock/Claude 的命令行工具,自动针对每个职位描述生成定制简历(PDF/LaTeX,支持葡语和英语),并做岗位覆盖度检查和面试准备草稿。它还附带防招聘诈骗的安全指南。适合正在海投、需要为几十个岗位反复改简历的程序员和 IT 从业者,尤其是会写代码、想批量生成简历版本的人;非技术岗位用提示词那条路线也行,但和多数不求职的人关系不大。
★ 233
24h +3
⑂ 55
创建 6 天前
更新 3 天前
duyongan / dots-agent
Agent框架
Python
会主动找活干、带审批和证据机制的常驻智能体
dots-agent 是一个会自己找活干的常驻智能体:它每隔一分钟跑一轮,主动从你的目标队列里领任务、执行、汇报结论,还能把做过的活总结成可复用的「技能」存进技能库,下次直接调用。它提供命令行和 Windows 桌面窗口两种用法,窗口里能看它在干什么、派新任务、批准它想做的敏感动作(比如发邮件),也能直接跟它对话。核心设计是审批闸门和证据机制:危险动作默认要人点头,超时未批自动拒绝;完成的任务必须附带可核对的证据,否则标为「待复核」,防止它编造结果。适合想在本地跑一个长期值守的自动化助手、又不想完全放权给模型的个人开发者或 AI 应用工程师,用来盯邮件、跑例行脚本、整理资料这类重复劳动;如果你只是想找一个对话式 LLM 工具,它不太对口。
★ 214
24h +3
⑂ 11
创建 22 天前
更新 17 天前
Lniosy / souhun
AI编程工具
Swift
在 Mac/Windows 上查看、写入和删除 Grok Bot 记忆的桌面工具
搜魂是一个 Mac 和 Windows 桌面应用,用来管理 Grok Bot 的记忆——可以列出你账号下的各个 Bot,拉取它们记住的内容,写入新记忆,或者让某条记忆被忘掉。它不改人设、不碰聊天记录,所有读写都通过你已登录的 Grok Bot 完成,写入时还能选择这条记忆是账号共用还是仅此 Bot 生效、是普通事实还是指令。比如你想让所有 Bot 都记住「我习惯用简体中文回复」,或者只想让某个特定 Bot 忘掉一条过期的偏好,都能在界面上逐条操作。适合那些重度使用 Grok Bot、养了多个 Bot 并且在意记忆归属和清理的人;如果你不用 Grok,或者只是偶尔聊天,这个工具和你关系不大。
★ 180
24h +3
⑂ 54
创建 4 天前
更新 4 天前
StargazerX0 / SpecPilot
推理部署
Python
自动为投机解码寻找无损优化的 agentic 系统
SpecPilot 是一个针对投机解码(speculative decoding)的自动优化系统,可以理解为给现有投机解码引擎做「自动驾驶式调优」的工具。投机解码本身是大模型推理加速的常用手段,但不同模型、GPU、并发配置下的最优参数差异很大,手工调优费时费力。SpecPilot 用一个 agentic loop 自动完成这件事:成本模型找出当前系统与理论上限的差距,多个并行 agent 探索优化方向并集成有效方案,kernel 子 agent 专门调优接近显存带宽瓶颈的算子,同时用 token forcing 逐 token 校验输出与原始模型完全一致,保证无损。仓库直接提供了它为六种部署(Qwen3.8-27B、Muse-Glimmer-30B 搭配 DFlash2 或 DSpark,在 H100 和 RTX PRO 6000 上)找到的引擎,实测在各场景下把原有加速比翻倍以上,单请求下相对自回归解码达到 8.86× 到 10.87×。值得看的是推理优化工程师、LLM serving 平台的负责人,以及关注投机解码、kernel 调优和 AI 自动化科研(agentic discovery)方向的研究者;如果你不涉及推理加速,关系不大。
★ 171
24h +3
⑂ 9
创建 5 天前
更新 3 天前
yihui-dev / how-profitable-startups-grow
JavaScript
742 家盈利创业公司的收入、增长与获客方式数据库
这是一个收录了 742 家真实盈利创业公司的数据清单,每条记录标注了收入区间、近 30 天增长趋势、创始人是谁,以及它靠什么方式获客,每周更新一次。它更像一份「别人怎么把产品卖出去」的案例库:你可以按商业模式筛选,比如找流量很低但收入很高的产品、30 天内暴涨的项目、freemium 转化做得好的、或者完全自举不融资的,每个公司还附带一份增长拆解报告,讲它具体用了哪几招。对正在做 side project 或独立开发的人来说,这相当于省去了自己一个个去扒竞品数据的功夫,直接看别人验证过的增长打法。适合的读者是 indie hacker、做增长或市场的产品经理、以及正在验证方向的创业者;如果你只是纯技术岗、不关心商业化,这个项目和你关系不大。
★ 163
24h +3
⑂ 11
创建 3 天前
更新 1 天前
wanszai / Scud-Race
世嘉经典街机赛车 Scud Race 的反编译移植版,支持现代硬件与在线对战
这是世嘉经典街机赛车游戏 Scud Race(又名 Sega Super GT)的现代化移植版,基于原版 Model 3 街机游戏的完整反编译实现,而非模拟器,能在 PC、Xbox 360 和 Xbox Series X 上运行。它保留了原汁原味的街机手感,同时支持最高 8K 分辨率、多种宽高比、环绕声音效、自定义背景音乐、方向盘力反馈,并新增了局域网联机、在线多人对战和跨平台排行榜。项目还计划加入 VR 支持和分屏模式。需要注意的是,运行它需要自备原版街机 ROM 文件,项目本身不提供。对普通互联网或 AI 从业者来说,这和工作关系不大;但如果你是怀旧游戏玩家、模拟器爱好者,或者研究游戏反编译与移植技术的开发者,这个项目值得一看。
★ 155
24h +3
⑂ 1
创建 7 天前
更新 5 天前
peterpoal134 / memory-brain
Agent框架
JavaScript
给 AstrBot 机器人加长期记忆、情绪与自主生活层的插件集
这是给 AstrBot 聊天机器人插件加装的一套长期记忆与生活层,让机器人不再聊完就忘。它把记忆分成事件、事实、反思、技能、道理五类存储,检索时用向量、关键词、实体图谱、重要性和新鲜度五路混合,还带遗忘治理(衰减、归档、冲突检测)和 PAD 三维情绪模型,情绪有上限和半衰期、不主导判断。比较特别的是「生活层」:你没找它时,它也会自己看书、刷视频、午睡,笔记回流进记忆;还能按「明天三点」这类时间表达主动发提醒。所有增强只往 system_prompt 追加带标记的注入块,人格文件保持只读,每个模块独立开关。适合在 AstrBot 上做 AI 陪伴角色、想给机器人加长期记忆和情绪表现的开发者,以及研究 RAG 记忆治理方案的人参考;如果你不做聊天机器人或 AI 伴侣方向,关系不大。
★ 139
24h +3
⑂ 17
创建 9 天前
更新 1 天前
routerhubSI / openrouter-alternative
模型服务
OpenRouter 替代品,一把预付费密钥调用 37 个模型,含 uncensored 版本
RouterHub 是一个类似 OpenRouter 的 AI 模型 API 网关,用一把预付费密钥就能调用 GPT、Claude、Gemini、Grok、DeepSeek、GLM、Qwen 等 37 个模型,接口兼容 OpenAI 和 Anthropic,价格按 token 明码标出。它和 OpenRouter 的主要差别在于两点:一是预付费按量计费、无订阅,二是目录里明确列出 uncensored 和 abliterated 版本的 DeepSeek、GLM、Qwen 模型,即通过修改权重降低拒答倾向的版本,适合需要减少模型拒绝回答的场景。比如你想批量跑内容生成或研究任务,不想被模型的安全策略反复打断,可以直接选对应的 uncensored 模型 ID。适合需要一把密钥打通多家模型、且对计费透明度和低拒答版本有需求的开发者;如果你依赖 OpenRouter 的路由和市场功能,它并不替代。
★ 139
24h +3
⑂ 36
创建 8 天前
更新 8 天前
guilhermealvestech / carrossel-skill
AI编程工具
HTML
给 Claude Code/Codex 的品牌风轮播生成 Skill
这是一个给 Claude Code 和 Codex 用的 Skill,专门帮你在社交平台发品牌风格统一的图文轮播(carousel):从逐页文案脚本开始,确认后才生成视觉,最终输出可编辑的 HTML 和 1080×1350、2160×2700 两档 PNG。它解决的是「每次让 AI 画图风格都不一样」的麻烦——每张通过的作品会进画廊当参考,你的每次拒绝或认可都记进偏好文件,用得越久越懂你的口味;已有品牌的还能直接读你的网站和 logo 反推视觉手册,新品牌则先给两三个方向让你挑。产出带画廊、滑块和版本对比页面,方便逐页检查和下载。适合做社媒内容的运营、个人 IP、以及帮客户做视觉物料的营销和设计从业者,如果你不产轮播内容,跟你就没什么关系。
★ 111
24h +3
⑂ 15
创建 8 天前
更新 5 天前
Kirito14IT / prompt-spider-ui
Agent框架
JavaScript
机械蜘蛛动画界面,可视化展示提示词分流与 Agent 任务
这是一个用原生 JavaScript 和 Canvas 2D 写的机械蜘蛛动画界面,把提示词或 Agent 任务步骤变成可视化演出:蜘蛛沿文字游走、伸触手抓词,词条飞入蛛网后分流到 code、model、you 三条分支。纯演示模式打开即用,输入自己的提示词会用本地规则打分分流,但不调用模型也不执行任何操作,纯属视觉效果。真正实用的场景是通过 MCP 接入你自己的 Agent,让 Agent 上报任务步骤后实时在画面上展示,比如代码检查、资料整理或需要人工确认的工作流,适合做演示或给别人看 Agent 在干什么。它还提供三套布局、主题定制、时间轴回放、PNG 截图和独立项目导出。对多数后端或算法岗关系不大,但做 Agent 产品、需要向用户或老板直观展示 Agent 工作过程的前端和全栈开发者值得一看。
★ 108
24h +3
⑂ 26
创建 24 天前
更新 3 天前
MIC-DKFZ / nninteractive-agent
多模态
Python
让 AI 编程代理用自然语言完成 3D 医学影像分割标注
nninteractive-agent 把 3D 图像交互式分割工具 nnInteractive 包装成 MCP 服务,让 Claude Code、Codex 等 AI 编程代理用自然语言完成医学影像标注。用户只需说「把肝脏和脾脏分别分割出来」,代理就会自动在 CT、MRI、显微图像上画框、点标记,检查 3D 结果并像人工标注员一样反复修正。在 14 张公开 CT/MRI/PET 图像的基准测试中,Claude Code 和 Codex 平均 Dice 达 0.81-0.85,明显优于 nnInteractive 单独使用(0.71)和纯文本分割模型 VoxTell(0.54)。适合医学影像、生物信息领域的研究人员和标注团队,尤其是需要批量分割但缺乏标注人力的场景;对多数互联网和 AI 从业者关系不大。
★ 78
24h +3
⑂ 4
创建 18 天前
更新 8 天前
dodo-labs-ai / mem-forge
RAG检索
Python
给编码代理提供带出处的团队知识记忆层
MemForge 是给 AI 编码代理用的记忆层,可以理解为 Claude Code、Codex 这类工具的「团队大脑」。它把散落在 Confluence、Jira、Teams 等系统里的 wiki、工单和聊天记录同步下来,用模型提炼成一条条带出处的短记忆,代理通过 MCP 检索这些记忆,而不是每次从零翻文档。它解决的具体麻烦是:新加入的代理只看得到本地代码库,对团队既有的技术决策、约定和历史一无所知;而直接把整篇文档塞进上下文又太占空间。MemForge 只返回精确的事实并附带原文出处,文档过期或两处说法冲突时会自动更新或标注。适合正在用 Claude Code、Codex 等 AI 编程工具、且团队知识散落在多个协作系统里的研发团队,尤其是需要让代理理解历史决策的工程师;单人开发者或不依赖 AI 编码代理的人关系不大。
★ 73
24h +3
⑂ 1
创建 11 天前
更新 2 天前
ederland / Agentes_IA_3D
Agent框架
JavaScript
用 3D 虚拟办公室管理 Claude 驱动的营销 AI 团队
这是一个把 AI 团队做成 3D 虚拟办公室的营销自动化工具:你在浏览器里看到文案、SEO、设计、视频等角色的虚拟形象在工位上干活,协调员会走过去派任务、把结果送到你面前。它基于 Claude Code 和你自己的 Claude 订阅运行,内置 Kanban 任务流(待处理→进行中→待审批→修改→完成),所有产出必须经你批准才发布,还支持 Telegram 语音派单、群聊 @协作,以及本地视频剪辑(Whisper 转写、去静音、字幕)。适合需要持续产出社交媒体文案、落地页、SEO 文章和营销素材的小企业主、独立营销人和自由职业者——尤其是想用 AI 组建一支「营销小队」又不想自己写脚本编排的人;纯技术岗或不涉及营销内容生产的人关系不大。
★ 66
24h +3
⑂ 16
创建 23 天前
更新 23 天前
devlikemasta / bureau-des-agents
Agent框架
TypeScript
把 Claude Code 多 agent 协作做成像素风办公室小游戏
这是一个把 Claude Code 变成像素风小游戏的桌面工具:你向项目经理 Max 提需求,他会派出若干 Claude Code 子 agent 分头干活,每个机器人坐在自己的工位上,气泡里实时显示它此刻在做什么——不是动画,而是真正在你电脑上运行的 agent。典型场景包括竞品调研(一个 agent 对手一个)、每周 AI 资讯汇总、写 LinkedIn 帖子、生成落地页,产出的文件和网站都能在界面里直接查看。它还提供任务回放、团队档案、日夜切换等游戏化细节,敏感操作会先向你请示,agent 被限制在任务目录内工作。适合想用 Claude Code 跑多 agent 协作、又希望过程可视化更直观的开发者和独立创业者;如果你不常用 Claude Code,关系不大。
★ 60
24h +3
⑂ 27
创建 23 天前
更新 23 天前
ishangautam7 / Talvio
AI编程工具
Rust
本地优先的语音助手,支持任意应用听写、语音命令和会议纪要
Talvio 是一个本地优先的语音助手,让你用说话代替打字:按住快捷键说话,文字直接出现在光标所在位置,任何应用都能用;还能用语音命令控制电脑,比如播放音乐、调音量、发邮件。它内置会议录音与实时转写,通话结束后自动生成纪要,手机 App 则可把手机变成无线麦克风和遥控器。语音转写默认在本机运行,支持 Parakeet、Nemotron、Whisper 等模型,也可选云服务。适合经常开长会、需要大量输入文字或想尝试语音交互的开发者和办公人群;如果你的工作几乎不用语音输入,关系不大。
★ 55
24h +3
⑂ 6
创建 15 天前
更新 10 天前
l-wn / ClusterChat
推理部署
JavaScript
浏览器里把多人显卡拼成一块跑 27B 模型的聊天工具
ClusterChat 是一个纯浏览器运行的分布式推理聊天工具,思路类似 Petals 或 exo,但把模型切分的对象换成了你和朋友各自机器上的显卡:通过 WebRTC 把多台电脑的 GPU 拼成一块,共同跑起一个 27B 的 Qwen 模型,全程零安装,打开链接即可用。它解决的痛点很具体——27B 模型约需 27GB 显存,单人往往不够,但一个实验室、俱乐部或朋友圈凑一凑通常有,于是每个人都能在自己的聊天窗口里同时对话,最多支持 64 人、多条回复并行生成;中途有人退出也不会中断,因为每段模型权重都有多个浏览器持有,丢失的工作会自动在别处重放。实测两块 RTX 3090 上 12 人同时聊天仍能保持每条回复 7.1 tok/s,跨两台机器也有 8.1 tok/s。值得看的是那些手里有闲置显卡、想和同事朋友共享一个大模型的研究者、学生团队或极客玩家;如果你没有多卡环境,这项目跟多数人关系不大。
★ 53
24h +3
⑂ 4
创建 28 天前
更新 2 天前