Hyperstitioncc/Hyperkernel

Hyperkernel 生成的是一批「megakernel」——把整个模型的推理流程压缩进单个常驻 GPU kernel，减少主机与显卡之间的来回调度，从而压低延迟。目前它覆盖了 LLM（DeepSeek-V4.1-Flash，OpenAI 兼容接口，1M 上下文）、自动驾驶（openpilot）、DNA 生成（Evo 2）、世界模型视频生成（Matrix-Game 3.0）、机器人控制（ACT、π₀-FAST）和蛋白质结构预测（ESMFold）等场景，例如机器人那条链路把图像编码、transformer 前向和动作输出全部放进一次 kernel 启动里完成。项目目前是 Alpha 状态，硬性要求 NVIDIA B300 级别显卡和较新驱动，模型权重需自备。值得看的是做推理性能优化、边缘实时控制或机器人部署的工程师；如果你只是调 API 或做应用层开发，和你关系不大。

Star 趋势

仓库信息