Bobliuuu/open-flapping-airplanes

这是一个用 CUDA 手写的 persistent megakernel 复现项目：只启动一次 GPU kernel，里面的 block 永不退出，从 GPU 上的任务队列里不断领取工作，同时完成三件事——训练一个 162M 参数的 GPT、用还在训练中的权重实时推理出文本、以及在 GPU 上以 35 fps 跑真正的 Doom 引擎。它复现的是 Flapping Airplanes 那段著名演示视频，代码全部从零写成，所有数字都有结果文件可查。实测在 B200 上按 116/24/8 的 SM 划分并行三任务，训练 4000 步约 48 秒，推理约 1660 tok/s；对比显示纯训练它打不过 Megatron + CUDA graphs，但两个进程共享 GPU 时会慢 40% 以上，而 megakernel 的优势正是三件事同时跑。适合做 GPU kernel、推理引擎或对算力调度感兴趣的工程师，以及想了解 megakernel 这种极端优化思路的人；普通 AI 应用开发者关系不大。

Star 趋势

仓库信息