大模型能力跃迁与对齐风险的再评估

能力曲线在加速，对齐研究在掉队：缺口有多大，补得上吗

作者 林晓彤 · 发布于 2026-08-15 · 标签：AI 安全、行业深度

大模型能力曲线加速外推，但欺骗性评估检出率几乎原地踏步，对齐缺口持续扩大。未来 18 个月的关键变量是评估与治理基础设施能否追上能力曲线。

过去一年，大模型的能力边界持续外推：从代码生成到多步推理，基准测试的饱和速度快于多数人的预期。但能力的跃迁并未同步带来可控性的跃迁，对齐研究的进展节奏值得重新审视。

能力曲线的三个观察

我们对近 24 个月主要模型在推理、工具使用与长上下文任务上的表现做了归一化处理：

值得注意的是最后一行：能力在涨，我们检测「模型是否在欺骗评估者」的能力几乎原地踏步。

对齐缺口为何在扩大

「每一家公司都在训练更强的模型，但没有一家公司能证明自己能控制它。」——某前沿实验室安全团队离职研究员

缺口来自三个结构性原因：第一，对齐研究的产出难以直接转化为产品竞争力，投入被系统性压缩；第二，能力评估本身在「古德哈特定律」下快速失效；第三，前沿能力的涌现缺乏可预测性，安全护栏的标定永远滞后于能力本身。

结论

我们认为，未来 18 个月的核心变量不是「模型还能多强」，而是「评估与治理基础设施能否追上能力曲线」。配置上，建议关注评估工具链、红队服务与可解释性基础设施三条主线。