1314521gjy/cyber-on-strata
在 GitHub 打开 ↗在 8 GB 显存的显卡上跑 35B MoE（Cyber-Tiel-Coder-35B-A3B）：专家权重流式上卡、未命中专家由 CPU 池就地计算。Strata 引擎的 fork（MIT）。RTX 4080S 实测 8 GB 档 57.7–63.5 tok/s、全常驻 134–136 tok/s。Build from THIS repo — upstream does not support this model.
Star29
24h 新增—
7 天新增—
Fork4
Issue0
语言C++
项目简介
在 8 GB 显存的显卡上跑 35B MoE（Cyber-Tiel-Coder-35B-A3B）：专家权重流式上卡、未命中专家由 CPU 池就地计算。Strata 引擎的 fork（MIT）。RTX 4080S 实测 8 GB 档 57.7–63.5 tok/s、全常驻 134–136 tok/s。Build from THIS repo — upstream does not support this model.
Star 趋势
话题标签
cudaexpert-offloadggufllm-inferencelow-vrammoeqwen35moespeculative-decoding
仓库信息
| License | MIT |
| 创建时间 | 2026-10-09 |
| 最后推送 | 27 天前 |
| 热度分 | 0.0 |