Qingyang-Lucas-Fang / OpenAssembler
推理部署
Sass
开源的 PTX 到 SASS 编译器,逆向重写 NVIDIA ptxas
OpenAssembler 是一个开源的 PTX 到 SASS 编译器,相当于把 NVIDIA 闭源的 ptxas 重新实现了一遍。作者通过黑盒方式逆向工程出指令编码、调度策略和 ELF 容器格式,然后替换成自己的代码生成器,支持把 Python 子集、CUDA C/C++ 或 PTX 编译成 SASS 和 cubin,目标硬件是 A100(sm_80)。它还带一个 SASS 模拟器,张量核心指令的数值结果与真机逐位一致。实际效果上,部分矩阵乘法内核比 ptxas 快,微基准测试范围在 0.92× 到 1.36× 之间,也导入了 AlphaTensor 的 97 个低秩分解在 A100 上与 cuBLAS 对比,但作者明确说这只是内核级测量,不代表 LLM 训练整体提速。适合关注 GPU 底层性能优化、做 CUDA 内核开发或对编译器后端感兴趣的工程师;如果你只做模型训练或推理调用,和你关系不大。
★ 201
24h +4
⑂ 7
创建 5 天前
更新 1 天前