论点二详细展开：训练中的核心悖论——隐层越聪明，模型越不理它
论文作者做了一个反直觉的实验，揭示了MLLM训练中的一个深层病理现象，他们称之为 "Silenced Visual Latents"（被噤声的视觉隐层） 。
实验1：捐赠实验——好隐层被"浪费"了
研究者训练了一个带隐层推理的MLLM。训练过程中，隐层确实变得越来越好——它们与预先定义的视觉线索（如ROI区域）的对齐度 steadily 提升，对齐损失单调下降。
但奇怪的是：模型的最终答案准确率并没有相应提升，反而波动。
为了隔离变量，研究者做了一个精妙的对照实验：
- 取一个从未训练的vanilla模型（0th iteration checkpoint）
- 只替换它的视觉隐层——把联合优化模型的隐层"捐赠"给它
- 保持其他所有参数不变
| 隐层来源 | 效果 |
|---|---|
| 0th iter（未训练） | 基准性能 |
| 500th iter | 性能提升 |
| 1000th iter | 性能进一步提升 |
| 2500th iter | 性能单调提升 |
但等等——如果隐层本身这么好，为什么联合优化的模型没有表现出这种单调提升？
实验2：注意力漂移——模型学会了"走捷径"
研究者可视化了训练过程中模型的注意力分布。
发现：训练后，答案预测时的注意力逐渐从视觉隐层漂移回了原始视觉输入token。
也就是说，模型明明有经过优化的隐层可以用，但它选择绕过隐层，直接看原始图像数据来回答。
这就像：你请了一位资深顾问（隐层），顾问做了大量分析。但决策时，老板（自回归预测头）选择直接看原始报表（视觉输入），而不是读顾问的报告。
实验3：Logits分析——隐层token变成了"门房过渡符"
研究者检查了隐层token的预测logits。一个语义丰富的隐层token应该预测与答案相关的文本token。但数据显示：
- 隐层token对答案相关token的logits确实增加了
- 但与此同时，它对
论文把这个现象命名为 "Silenced Visual Latents" ：
> "The autoregressive answer prediction objective tends to favor shortcut routes through direct visual input, while latent tokens are gradually pushed toward transition-token-like behavior rather than semantically informative reasoning states."
核心悖论：你花了大量算力去优化隐层，结果模型学会了"绕开"隐层。