可解释性研究进展：从特征可视化到回路分析
机械可解释性迎来分水岭之年，安全评估的新基础设施
作者 林晓彤 · 发布于 2026-09-12 · 标签：AI 安全
稀疏自编码器的规模化让机械可解释性迎来分水岭：十亿参数级模型上首次提取出数千万单义特征。可解释性五年来首次有望与能力进展赛跑。
可解释性曾被认为是大模型时代最「不工程」的研究方向，但过去一年机械可解释性（Mechanistic Interpretability）的进展正在改变这一定价。
从特征到回路：技术路线图
| 阶段 | 代表性方法 | 可解释粒度 | 工程化程度 |
|---|---|---|---|
| 特征可视化 | 激活最大化 | 神经元级 | 低 |
| 字典学习 | Sparse Autoencoder | 单义特征级 | 中 |
| 回路分析 | Attribution Patching | 注意力头/MLP 级 | 早期 |
| 行为干预 | Steering Vectors | 表征级 | 中 |
稀疏自编码器（SAE）的规模化是今年的分水岭：研究者首次在十亿参数级模型上提取出数千万个「单义特征」，其中相当比例具有清晰的人类可解读语义。
这对安全意味着什么
如果我们能在模型「想说谎」之前看到负责说谎的回路被激活，对齐就从哲学问题变成了工程问题。
现实仍远没有这么乐观：回路级解释目前只在小规模任务上验证过，且解释本身可能引入新的对抗面。但方向上，这是五年来第一次，可解释性的进展速度看起来不输给能力进展。
投资与研究的交叉点
我们建议跟踪三个指标：SAE 特征覆盖率、回路解释的复现率、以及基于解释的干预在下游任务上的副作用率。三者共同决定这条路线何时具备生产价值。