解锁 RTX 4090 tensor core 速度档位的内核模块,FP16 吞吐翻倍
Star4.7k
24h 新增+18
7 天新增—
Fork612
Issue73
语言C
项目介绍
更新于 1 天前
这是一个 Linux 内核模块,能在 NVIDIA 官方驱动加载前修改 RTX 4090(以及实验性的 RTX 4070 Ti SUPER)的 GPU 寄存器,解锁被屏蔽的 tensor core 速度档位。实测在 450W 功耗墙不变的情况下,FP16/BF16 配 FP32 累加的指令吞吐从约 165 TF/s 翻倍到 330 TF/s,INT8 和普通 FP32 不受影响,且能扛过 PCIe 复位和驱动初始化。但要注意它不是「整机推理提速两倍」:真实 cuBLAS GEMM 视矩阵形状只提升 12%–34%,量化 MoE 推理场景基本零收益,功耗墙下还会被压回。适合两类人看:跑 FP16/BF16 训练或稠密 GEMM 的个人研究者、想压榨二手 4090 算力的炼丹玩家,以及对 GPU 底层寄存器和驱动交互好奇的系统工程师;如果你主要做量化推理或生产部署,这项目和你关系不大,还可能带来稳定性风险。
上手成本:中
Star 趋势
仓库信息
| License | GPL-2.0 |
| 创建时间 | 2026-10-23 |
| 最后推送 | 10 天前 |
| 热度分 | 64.0 |