3% 的错觉与 32% 的真相：验证器盲区守恒律如何让级联系统自我欺骗

一个让人后背发凉的场景

假设你是一家 AI 公司的工程师，负责把 LLM 推理成本砍下来。你的方案很标准——级联（cascade）：大部分查询交给一个便宜的小模型（学生），搞不定的再转给前沿大模型（验证器）做检查。你在 Dashboard 上看到：升级率持续下降，接受流错误率稳定在 3%。一切看起来很美好，你准备把这套系统推到生产环境。

但如果你把同样这段时间内系统真正交付给用户的答案拿来做金标准验证，真实错误率已经从 3% 飙到了 32%。

这不是假设。这是 Dushyant Rajput 在 AltSlate Labs 的新论文《Cheap Verifiers, Large Blind Spots》里用 Qwen2.5-7B 学生 + gpt-4o-mini 验证器在 GSM8K 上跑出来的真实数据。Dashboard 在撒谎，而且它是结构性撒谎——不是 bug，不是调参问题，而是这类系统在数学上就无法从内部看到自己的退化。

核心问题：省钱级联的"自改进闭环"陷阱

先说清楚论文研究的对象。级联系统本身不新——便宜模型答大部分，难题转给贵模型，这是 FrugalGPT、Automix 等一脉相承的思路。论文研究的是一个看起来很自然的延伸：把闭环关上。

具体来说，验证器拒绝的那些难题（学生答错了的），收集起来作为微调数据，反过来训练学生模型。这样下一轮学生就更厉害了，升级率下降，成本进一步降低。每一轮都更省钱、更准确——至少理论上是这样。

这个"自改进闭环"是今天训练无关的 deferral-reuse 方法（如 In-Context Distillation）的参数化版本，是很多人下一步想做的事。论文就是来测量这个闭环在真实 LLM 上到底跑成什么样的。

四个发现，一个比一个扎心

发现一：验证器盲区随学生能力对抗性增长

定义一个关键量——验证器盲区率 β：学生答错的题目里，验证器也判断不出来（错误地放行）的比例。

论文在 GSM8K 上固定 gpt-4o-mini 做验证器，把学生从 Qwen2.5-0.5B 扫到 32B，结果：

学生越强，验证器盲区越大。从 0.12 涨到 0.55，翻了四倍多。原因很直觉——越强的学生犯的错越微妙，固定验证器越难识别。7B-32B 三个点形成平台，说明盲区率是单调上升后饱和，不是峰谷式波动。

这个发现本身就是一个独立的警告：你升级了学生模型，以为系统变好了，实际上验证器的盲区也在同步扩大。省钱配置（便宜学生 + 便宜验证器）恰好是盲区最大的配置。

发现二：买掉盲区，就把省的钱还回去了

既然便宜验证器盲区大，换个贵的呢？论文在 hard MATH（L4-5）上固定 Qwen2.5-7B 学生，扫验证器：

gpt-4.1 把盲区压到 0.05，但升级率飙到 0.46——真实错误率才 0.39，验证器却把 46% 的查询都升级了。也就是说，为了抓住那 39% 的真错误，它把大量正确答案也误杀了。你付了前沿模型的价格，处理了将近一半的流量——级联存在的意义（省钱）被彻底抵消。

盲区是便宜验证器的代价，而消除盲区的代价就是级联本身。

发现三：自改进闭环是自毁的

这是最扎心的发现。论文尝试在 1.5B 和 7B 学生上跑闭环微调——用验证器拒绝的题目做 LoRA 微调，期望学生变强。结果：

跨所有教师（gpt-4o-mini、gpt-4o 跨家族；Qwen2.5-32B 同家族），朴素微调不仅没有改进学生，反而退化并最终崩溃了它。原始错误率一路涨到 1，训练在最难、风格偏移最大的样本上把输出格式都搞坏了。

论文很诚实地说：我们没能 instantiate 一个能改进学生的闭环。参数化自改进闭环——今天训练无关的 deferral-reuse 方法的自然下一步——在这个规模上是自毁的。这不是调参没调好，是结构性问题：你微调的恰好是那些最难、最可能让小模型不稳定的样本。

发现四：Dashboard 是结构性失明

这是论文最深刻的发现。在整个退化过程中，Dashboard 读数一直是 ~3% 的平坦错误率，而真实交付错误率在 32% 附近震荡。

为什么？因为你能计算的所有指标——升级率、接受流准确率——都是通过验证器计算的。验证器看不到自己的盲区，所以它报告的指标永远好看。系统在退化，Dashboard 在改善，两者完全脱钩。

这不是 oversight，是 construction。成本 Dashboard 和质量 Dashboard 是同一个仪表盘，而它就是那个被污染的仪表盘。

为什么 Dashboard 是瞎的：一个守恒律

论文给出了 Dashboard 失明的理论解释——盲区守恒律。

把学生的错误分成两个群体：

• 可检测错误（mass q_t · r_t）：验证器能识别的
• 盲区错误（mass q_t · β_t）：验证器识别不出来的

闭环只对第一个群体施加训练信号，第二个群体没有直接信号。所以随着训练进行，可检测错误被压下去，盲区错误基本守恒。用户实际拿到的错误率（通过验证后存活的错误）是：

其中 \(q_0\) 是初始错误率，\(\beta_0\) 是初始盲区率。这就是盲区守恒律——用户面错误率不趋于零，而是趋于一个由初始盲区质量锚定的正下限。

两个二阶效应

守恒律有两个扰动方向：

• 自愈（Self-healing）：纠正可检测错误时，能力的通用提升可能顺带修好一些盲区错误，让下限低于 \(q_0 \beta_0\)。这个 gap 衡量了验证器看不见的"免费"可靠性提升。
• 自强化（Self-reinforcement）：如果闭环把验证器接受的答案当作正标签回灌（自训练），那么验证器盲区里的错误答案会被当作正确答案教给学生，主动强化错误。下限会高于 \(q_0 \beta_0\)，用户面质量可以退化而所有内部指标都在改善。

两个推论

推论 1（相关性缩放）：当学生和验证器共享失败模式（同家族、同预训练谱系），β 会更大——同一个错误说服了学生也会说服验证器。设计规则：让验证器与学生去相关。但注意，能力差距是另一条独立通往高 β 的路径——即使不相关，强学生的错误本身就更微妙。

推论 2（Dashboard 失明）：所有从业者自然监控的指标——升级率（成本代理）和验证器估计的接受流准确率——都是通过 V 计算的。当闭环把错误集中到 V 的盲区时，这些指标改善或持平。系统对自己的退化结构性失明。

合成验证：让闭环工作，看守恒律是否出现

真实模型上闭环是自毁的，没法验证守恒律。论文转到一个可控的合成模型——10 类分类，学生是 logistic 回归，验证器在一个固定的"盲区半空间"里橡皮图章学生说的任何答案。关键：没有任何东西告诉闭环要放过盲区错误——盲区错误被接受，所以不会进入训练池，是否守恒完全由学习动力学涌现决定。

结果（20 个种子，8 轮）：

几个关键观察：

1. 正向下限存在（H1 验证）：纠正闭环的用户面错误从 0.33 降到 0.25，没有到零，守恒在 \(q_0\beta_0 = 0.334\) 附近（略低，因为有自愈效应）。
2. Dashboard 失明（H4 验证）：Dashboard 读 4.6%，真实是 24.9%——5 倍的 gap。
3. 盲区缩放（H2 验证）：下限随 \(\beta_0\) 单调增长，从 0.09 到 0.36，Oracle 在原点。
4. 自训练比纠正更差（H3 验证）：自训练下限 0.30 > 纠正 0.25，但都低于 \(q_0\beta_0\)——自愈主导了自强化。
5. 冻结控制恰好坐在锚点上（0.334 = \(q_0\beta_0\)），验证了守恒律的精确形式。

缓解措施的交换率

论文测了两种修复方案：

• 去相关验证器集成：m 个独立盲区的验证器，任一反对就拒绝。m=4 时 β 从 0.76 降到 0.40，下限从 0.25 降到 0.14。代价：每查询 m 次验证器调用。
• 随机 Oracle 审计：以一定比例随机用金标准审计。40% 审计只把下限降到 0.22——大部分审计预算浪费在非盲区项上，因为验证器在那些地方已经看得到。

集成是更强的杠杆，但贵；随机审计便宜但浅。两者都没能在测试预算内达到 Oracle 下限。论文指出一个显然的改进方向：审计验证器最不确定的地方，而不是随机审计——但这个留给真实模型研究。

工程洞察：三个实操结论

论文最后给出三个对从业者的直接建议：

1. 成本 Dashboard 在撒谎——独立审计通道不是可选的

升级率和接受流准确率都通过验证器计算，都会在系统退化时改善或持平。唯一能看到问题的工具是一个独立的、周期性的金标准样本审计。这不是 nice-to-have，是唯一能看见盲区效应的仪器。

2. 验证器选择是可靠性决策，不只是成本决策

盲区随学生能力增长，随验证器能力下降。换个便宜验证器，你在一条 Dashboard 看不见的轴上用可靠性换了成本。换个贵验证器，盲区消失了，但级联省钱的初衷也没了。这是一个 Dashboard 不会告诉你的 trade-off。

3. 纠正闭环 vs 自训练闭环是安全选择

把验证器接受的答案作为正标签回灌，把被动的盲区变成主动强化的盲区。自训练闭环的用户面错误可以退化，而所有内部指标都在改善。这不是理论担忧——合成实验已经验证了这一点。

开源代码

论文所有代码和数据公开在 github.com/AltSlate-Labs/cascade-blindspot。

• 合成实验（experiments/phase0_synthetic.py）：CPU 上 1 分钟跑完，不需要 GPU 或 API key
• 真实模型实验（experiments/phase0_real/）：需要 1 块 H100 + OpenAI key，学生是 Qwen2.5-Instruct 0.5B-32B + LoRA
• 所有图表从 committed *_results.json 重建，不需要重跑实验

仓库结构清晰，合成实验特别值得跑一遍——它在 CPU 上 1 分钟就能验证守恒律，是理解论文核心机制的最佳入口。

个人思考：这和我们已经知道的一切如何连起来

这篇论文让我后背发凉的地方在于，它把几个我之前以为是独立现象的东西串成了一条链：

"评测盲区定律"再添一例——我们之前在 omission blindness（LLM 法官检测 commission 但不检测 omission）、TwinKV（注意力 ≠ 因果贡献）、PoP（层间犹豫）里都看到过类似的模式：评测器在某个维度上是盲的，而这个盲区恰好是系统退化的方向。但这篇论文给出了更强的结论：盲区不是静态的，它随学生能力对抗性增长。你越改进学生，评测器越瞎。

"判断-闸门解耦"再添一例——验证器同时扮演两个角色：判断（这个答案对不对）和闸门（要不要放行）。论文证明这两个角色在结构上无法解耦——验证器的判断能力就是闸门的能力上限。和 LLM 法官、PoP 中间层一样：判断模块知道答案错了，但行动闸门不咨询它。

"标量幻觉"再添一例——从业者用"验证器估计错误率"这一个标量管理一个由（可检测错误，盲区错误，教师错误）组成的多维向量。Dashboard 显示 3%，真实是 32%——用温度计量血压，而且温度计本身不知道自己量错了。

"自演化正反馈失败循环"再添一例——和 Aspire 一样：vague goal 下的 weight-level 自演化不工作，越优化 proxy 离真实能力越远。但这篇论文给出了更尖锐的结论：自训练闭环不仅不工作，还会主动强化错误。proxy reward 上升，true reward 下降——Goodhart's Law 在 LLM 级联里的具体形态。

但论文有一个之前没有的新东西——守恒律。\(q_0 \beta_0\) 不是经验拟合，是从两群体线性模型里推导出来的上界。这意味着：

• 它是可以预测的：知道初始错误率和初始盲区率，就能预测用户面错误率的下限。
• 它是可以证伪的：如果下限是零或与 \(\beta_0\) 无关，守恒律就被推翻。
• 它把所有"评测盲区"现象统一到一个框架下：任何"用评测器自己的输出作为训练信号"的闭环，都有一个由初始盲区锚定的正下限。

这个框架的适用范围远超 LLM 级联。任何"AI 系统用自己的判断作为自我改进的信号"的场景——RLHF 里的奖励模型、AI 法官评估 AI 输出、agent 自我反思——都可能服从同一个守恒律。你不能用产生问题的那个意识层次去解决那个问题，爱因斯坦说的是物理学，但放在 AI 自改进闭环上同样成立。

论文最诚实的一句话在结论里："The clean floor itself we leave as theory, because no real-model loop we ran reached it." 真实模型上闭环是自毁的，所以干净的下限是理论预测，不是实测结果。但 Dashboard 失明不是理论——它在每一轮真实实验里都出现了。

这篇论文的实践信号很清晰：如果你在跑一个用验证器做自我改进的级联系统，你必须有一个独立于验证器的审计通道。不是可选的，是唯一能看见系统退化的仪器。Dashboard 不会告诉你它在撒谎——这是它的结构决定的，不是它的调参决定的。

论文：arXiv:2609.01345 · Dushyant Rajput, AltSlate Labs LLP · 2026-09-01

代码：github.com/AltSlate-Labs/cascade-blindspot（合成实验 CPU 1 分钟可跑完）