模型的犹豫，是可以测的

模型的犹豫，是可以测的

用大模型的时候，我们只看最后一层吐出来的答案。但 Transformer 内部其实一直在改主意：每一层都会对「下一个词是什么」给出一个当下的判断，层与层之间不断修正，最后那层只是漫长修改的终点。复旦、中科大和上海创新研究院的团队（论文 v1 于 10 月 4 日挂出）把这条被扔掉的修改轨迹捡了回来，做成一把尺子，叫信念轨迹能量（BTE，arXiv 2610.05114）。

做法借自 logit lens：把每一层的中间残差状态通过模型自己的输出头投影回词表空间，得到该层对下一个词的预测分布——相当于偷看模型在每一层的「当前信念」。相邻两层信念之间的 Jensen-Shannon 散度，就是这一步改了多少主意。论文还给了一个漂亮的理论支点：JS 散度在局部恰好诱导预测分布的 Fisher-Rao 几何，所以每个层间步长不是随便选的统计量，而是几何意义上的「一次有效预测修正」。把所有 token、所有层的修正量平均池化，就得到一条固定长度的深度剖面——模型的推理「心电图」。想要单一数值的话，取中间四分之一层（32 层的 Llama 上是第 12 到 19 层）而不是全层平均：扰动实验显示后层的高值多半来自输出层附近的扰动伪信号，中段才是稳定的。

这把尺子量出了三样东西。第一是难度：不做任何下游微调，光凭中段 BTE 标量就能区分数学和推理任务对当前模型的难易，而且它捕捉到的难度和人类标注的难度标签互补——有些题目人类觉得简单、模型的修改轨迹却很挣扎，反之亦然。第二是甄别：在 ICLR 和 NeurIPS 2021 到 2024 八个会议年份的真实同行评审上做 paper-disjoint 的人机检测，基于 Qwen 的 BTE 深度剖面喂给一个轻量分类器，宏平均 AUROC 到 0.998；跨生成器家族迁移 0.995，把评审文本改写过后也只掉到 0.994——它认的不是文风，是写作过程的内部结构。第三是溯源：八类不同生成器的文本，归因准确率 95.6%。

最值得琢磨的是第四个发现：这把尺子本身有成长史。在 OLMo-2-7B 的预训练检查点序列上，BTE 的结构随训练逐步成型；定向微调又能选择性地重塑它。换句话说，BTE 读出的不只是被测文本的性质，还有打分模型自己学过什么、见过什么——同一篇文本，在不同数据上训练出来的模型眼里，有不一样的犹豫模式。论文讨论部分把这层意思挑明了：训练好的模型不只是解题器，还可以充当测量仪器，用它内部的预测动力学反过来刻画流经它的数据。

有两处解读稿的措辞需要校准：「首次」论文没说，只说「我们引入」；「无偏度量」更是查无此词——原文的措辞是「有原则的」（principled），JS 散度保证的是每一步修正有几何解释，不是统计意义上的无偏。评审数据本身来自 Yu 等人 2026 年的 ICLR 基准，BTE 是在别人的考卷上证明了自己。

往深里看一层，这件事的真正卖点是：最终输出是一个有损接口，BTE 是把丢掉的过程信息读回来的尝试——此前这个家族里有从权重更新记录读回学习事件、从 KV 缓存读回历史的先例，现在轮到从层间信念轨迹读回推理过程。而「模型即仪器」这个视角一旦成立，尺子和被测物的边界就模糊了：你在用模型测量数据，也在测量数据如何塑造了模型。