RikiyaT/lm_understand-logs

这是博客文章《Sparks of Weight Space Programming: LLMs can understand and write neural network weights》全部实验的完整日志存档，记录了让 LLM 直接读写神经网络权重的一系列尝试。八个实验覆盖了从简单到复杂的场景：让模型只看权重判断网络是玩 Breakout 还是 Pong 训练的、判断扩散模型生成的是圆形还是方形、从中间层判断语言模型学的是 Python 还是英文、直接编辑权重修复一个坏掉的网络、从零写出 MinAtar 游戏网络、写一个 150 万权重的 Go 网络、识别谄媚的语言模型，以及用改权重的方式提升 Qwen3.5-0.8B 的数学能力。每个实验都完整保留了发给模型的提示、模型的回复与推理摘要、它写的代码及运行输出、评分依据和涉及的网络文件，且全程禁用 Codex 的内置工具，仅在少数实验里允许跑沙箱 Python。对做 LLM 能力研究、想了解「权重空间编程」这条路线真实效果和边界的算法工程师和研究者来说，这是难得的可复核一手材料；不关心模型内部机制的人则不必看。

Star 趋势

仓库信息