GitHub 热门
共 2 个项目 · 第 1 / 1 页
Zagitta / gpu-unlock 基础设施 C
解除 GeForce 显卡 Tensor Core 半速限制,AI 算力最高翻倍
GeForce 消费级显卡的 Tensor Core 在 FP16/BF16/TF32 矩阵运算上被 NVIDIA 人为限制在半速,而同款芯片的专业卡却跑满速。gpu-unlock 是一个 Linux 内核模块,在开机时、NVIDIA 驱动加载前解除这个限制,不改驱动、不刷 VBIOS,驱动更新后也无需重做。实测 RTX 3060 的 BF16 算力从 27 提升到 51 TFLOPS,4090 峰值翻倍;落到真实负载上,LLM prefill 提速 25–55%、LoRA 微调提速 25–50%、ComfyUI 出图提速 30–55%,但 decode 和量化模型基本无感。适合手握 20/30/40 系显卡、在 Linux 上跑本地推理或微调的个人开发者和算法工程师,用来白嫖一倍算力;Windows 用户和 50 系显卡用户则用不上。
★ 16k 24h +456 ⑂ 1.6k 创建 18 天前 更新 7 天前
drawthingsai / local-code-community Agent框架 C
Mac/iOS 上离线运行大模型的私有编码与办公 Agent
Local Code 是一款跑在 Mac、iPad 和 iPhone 上的私有 AI 编程与办公 Agent,可以理解为把 Claude Code 这类编码助手搬到本地设备、并内置了一整套工具链的应用。它自带针对 Apple Silicon 优化的 LLM 推理引擎,能离线运行 DeepSeek 4.1、Qwen 等量化模型,也支持接 Anthropic、OpenAI 等云端模型。应用内集成了 Python、Node.js、shell、LibreOffice、FFmpeg 乃至浏览器和绘图工具,Agent 可以在你授权的文件夹里完成数据分析、画图表、写文档和幻灯片、开发软件等完整任务,且所有命令都在 App Sandbox 内执行,无法接触全盘。任务和对话可持久保存、生成中断能续跑、长对话有磁盘级上下文缓存。适合关注本地大模型落地、隐私敏感场景的 AI 应用开发者、Mac 端工具开发者,以及想在无网环境下用 Agent 干活的从业者参考其工程实现。
★ 115 24h +2 ⑂ 8 创建 14 天前 更新 3 小时前