heterodoxin/AbliteratedOutTheBox

这是一个 llama.cpp 的 fork，作用是在推理时实时移除模型的拒绝倾向，让被安全对齐的开源模型直接回答那些通常会被拒答的问题，而磁盘上的模型权重完全不动，也不需要任何训练或额外文件。它的做法是针对每条 prompt 现场读出「顺从」和「拒绝」两个激活方向，用一个前置判断决定是否执行投影编辑，良性 prompt 则完全不受影响，输出与原模型逐位一致。README 称在 Qwen3-8B 上把有害 prompt 的拒答率从 96.3% 压到 7.9%，同一套方法也适用于 Llama-3.1-8B、Gemma 等 131 种架构，无需逐模型调参。对多数从业者来说这和日常工作关系不大，但如果你在做模型安全评估、红队测试、越狱攻击研究，或者想搞清楚对齐机制在激活层到底怎么起作用，它是个能快速做对照实验的工具；普通业务场景请谨慎对待其用途。

Star 趋势

话题标签

仓库信息