话筒还烫着,答案已经凉了

📌 一句话总结

中科院信息工程研究所等机构的研究者做了一把"思考的尺子"(STP),对六个推理模型、九万二千多条思考轨迹做了九万多次"中途掐断"实验,首次定量给出两个残酷数字:推理模型平均 64.3% 的思考 token 产生于准确率峰值之后(纯属白想),而完整想完的答案比"在最优点停下"平均低 9.03 个百分点(白想还不算,还想坏了)。在此基础上,他们把"何时停止思考"的三种主流策略放进同一个数学框架,画出了各自的理论极限--Pareto 前沿--并发现:所有现有方法都跑在极限之下。他们把这把尺子和赛道一起开源,叫做 OTBench。

这是「评测的生命力」系列第三篇。前两篇我们聊过:评测不是静止的靶子,它会老化、会变形、会被人针对。这一篇换一个角度:当"更多思考"不再是"更好答案"的保证时,评测的战场就要从"答案对不对"推进到"思考值不值"。

🧠 当"想得更久"不再是"答得更好"

先从一个生活场景说起。

你参加一场马拉松式的产品评审会。议题下午两点开始,三点十分,所有人的意见已经收敛,结论清清楚楚写在白板上。这时候按说该散会了。但主持人说"我们再全面讨论讨论",于是大家又坐了一个半小时:有人把已经定稿的结论重新论证了一遍,有人提出了一个没人问过的新问题,还有人干脆开始推翻两小时前已经确认的东西。散会的时候你一看表--四点半。白板上的结论,和你三点十分想的一样。运气好是一样,运气不好,还改错了一条。

这就是大语言模型推理时代最尴尬的疾病:Overthinking,过度思考。

先交代一下这个病所处的时代背景。2024 年底以来,以 OpenAI o1 为起点、以 DeepSeek-R1 为开源集大成者的一类模型成了 AI 的主流形态--推理模型(reasoning models)。这类模型在给出最终答案之前,会先输出一段长长的"思考过程":推理链条、自我检验、反复验算,甚至自我反驳再自我纠正。想得越久,答案越对,这几乎成了行业共识,因为它在数学竞赛和编程竞赛榜单上被反复验证。于是水涨船高,模型的思考预算(reasoning token)一路膨胀:从几千 token,到几万,再到几十万。推理 token 就是钱--是 GPU 小时,是用户等待的秒数,是数据中心的电费。整个行业的成本结构,都建立在"思考值得"这个未经审计的假设上。

但直觉上,任何人坐过前面那种评审会,都会隐隐觉得不对:思考的收益,应该有一条渐近线。过了某个点,再想就不是在提炼答案,而是在稀释答案--冗余的复述、多余的验算、突然的"自我怀疑然后改错"。物理学里有个常识叫边际收益递减,会议里有个常识叫"散会吧",推理模型却没有人替它喊这两个字。问题是,这个点在哪里?过了点之后到底有多浪费?浪费到什么程度会反噬答案本身?

在 OTBench 之前,这些全是感觉,不是数字。大家大概知道"模型会想太多",但没人能说清三件事:

1. 想多了多少? 是 10% 的冗余,还是 50%?
2. 想坏了多少? 多余思考只是浪费电,还是真的把对的答案改成了错的?
3. 谁来止损最划算? 是干脆让某些问题别想(动态路由)、还是给所有问题统一定个思考预算(固定预算)、还是让每条思考自己觉得该停就停(动态早退)?这三种"止损方式"各自的理论极限差多少?

回答不了这三个问题,整个推理效率领域就像在没有刻度的赛道上赛跑:大家都说自己快,但没人知道自己离物理极限还有多远。

这篇论文(arXiv: 2610.13570,2026 年 10 月 9 日发布)的贡献,就是把这三个感觉问题变成了三个工程问题,然后一一给出数字。他们分两步走:第一步造尺子(STP,测量 overthinking 有多严重);第二步画地图(统一三种终止策略的框架,画出各自的 Pareto 前沿,再让所有现成方法在地图上找自己的位置)。

🎤 STP:在演讲稿的第 k 页把它抽走

测量过度思考,听起来是个哲学问题:你得先定义"思考到位"的那个点,才能说后面的是多余的。可模型自己不会举手报告"我到此为止都想明白了"。怎么办?

研究者的办法,我称之为"掐稿实验"。想象一场 TED 演讲。演讲者手里有一份稿子,从头讲到尾。你作为实验者,不想知道他讲完全程的效果--你想知道的是:如果只让他讲前半段,后半段自由发挥,观众还能听懂多少?

STP(Step-wise Truncation Probing,逐步截断探测)就是这么干的。这个方法的名字听起来拗口,思想却很像编辑改稿:一部长篇小说好不好,编辑不看结局,而是在每一章后面蒙住后续内容,问作者"基于目前的情节,你猜这个故事讲了什么"--问得足够多、问得足够均匀,整本书的结构毛病就无处遁形。具体操作是这样:

把模型的完整推理轨迹按空白行切成一块一块(模型写推理时本来就会分段),以 256 个 token 为目标步长,一块算一步。选空白行而不是硬切句子,是为了让每个"步"在语义上自洽--你不会在一句"因为 3x = 12,所以"的正中间掐断,那样的截断谁也接不住。

现在,一条长度为 n 步的推理轨迹摆在你面前。你在第 k 步的位置拦腰掐断,只保留前 k 步作为"已想的",然后让模型从这里即席收尾、生成最终答案。关键在于:同一个截断位置,让模型独立生成 16 次答案(16 个 probe,相当于请了 16 位听众投票,取多数意见,压掉随机性)。为什么要投 16 次?因为模型生成答案有随机性,单次结果可能是骰子的运气,16 次取一致的多数,才能把"这个位置的信息到底够不够"从噪声里分离出来。把 k 从 1 扫到 n,每个位置都测一遍,你就得到一条曲线:横轴是思考长度 L(k),纵轴是对应的准确率 P(k)。

有了这条"token-准确率响应曲线",两个诊断指标就自然落下来了:

• Overthinking Ratio(OR,过度思考率):找到曲线上最早达到最高实测准确率的那个参考点 k*--也就是"再往下想已经没有收益"的起点--然后计算 k* 之后产生的思考 token 占总 token 的比例。公式是 1 - L(k*)/L(n)。用会议的比喻:这是"一场会议在做出决定之后又开了多久的废话时间",占总会议时长的比例。
• Accuracy Degradation(AD,准确率退化):从参考点到完整推理终点,准确率掉了多少,P(k*) - P(n)。用会议的比喻:这是"散会时的结论比最佳时刻的结论差了几个档次"--可能是会开太久,有人把对的改错了。

这两个指标设计的精巧之处在于它们是正交的两把尺。OR 量的是浪费(时间、算力、电费),AD 量的是伤害(答案质量)。一场会可能废话连篇但最后结论没变(高 OR、低 AD),也可能只多开了十分钟就把方向带偏了(低 OR、高 AD)。只看任何一个,都会误诊。

实验规模也值得一说:963 个问题(来自 AIME 90 题、MATH500 500 题、GPQA-Diamond 198 题、LiveCodeBench 175 题四个基准),每个问题采样 16 条独立推理轨迹,共 92,448 条轨迹,覆盖了 GPT-OSS-20B、Qwen3-4B-Thinking、Qwen3-30B-A3B-Thinking 和 DeepSeek-R1-Distill-Qwen-7B/14B/32B 六个模型。每一个截断位置还要跑 16 次探测。整项测量最终积累了 70.5B(705 亿)个推理 token 及对应的探测数据。这不是抽样问卷,这是给六个模型的思考过程做了一次全面 CT。

🔬 量出来的病:六成白想,一成想坏

CT 片子出来了,病灶清清楚楚。先看病灶的大小和形状,再分析病理。

第一个数字就让人坐不住:OR 平均值 64.3%。 换句话说,六个模型在四个基准上,平均超过六成的思考 token,是在"准确率已经到顶"之后生成的。类比一下:你买了一张全程三小时的讲座门票,但讲师在一个小时的时候已经把核心内容讲完且讲得最好,剩下两个小时他在重复第一小时--这张票的六成钱是白花的。对推理模型来说,这六成不是小钱:token 就是钱,是延迟,是能耗。整个推理革命的账本上,六成支出记在"没有任何收益的科目"里。

第二个数字是 AD 平均值 9.03 个百分点。 这是真正的伤情报告:完整跑完思考的答案,比"在最佳参考点停下"的答案,平均低了 9.03pp。如果拿考试打比方,一个平均 72 分的学生,因为"坚持把卷子检查到交卷铃响",把分数拉低了近 10 分。overthinking 不只是浪费,是负收益--想得太久,对的答案会被自己改错。

再看分布范围。不同模型的"病情"差异不小:OR 从 41.1% 到 74.4%,AD 从 5.64pp 到 13.40pp。也就是说,最好的模型也要白想四成,最"话痨"的模型接近四分之三的思考是冗余。

最有意思的是不同科目之间的对比,这暴露了病情的两种极端类型——冗余与伤害之间醒目的分裂：

• MATH(数学)是"话痨但无害"型:OR 高达 78.8%(十个思考 token 里近八个是多余的,是所有基准里冗余比例最高的),但 AD 只有 1.83pp。数学推理后期大量步骤在做"重复验算"--啰嗦,但不捅娄子。就像那场开了一下午废话的会,结论纹丝没动。对运营来说,这是电费问题,不是质量问题。
• GPQA(研究生水平的科学问答)是"话少但刀刀见血"型:OR 61.4%(冗余比例反而较低),AD 却高达 16.98pp--是所有基准里最高的,接近 MATH 的十倍。科学推理的后期步骤更像"过度自信的自我怀疑":想的不多,但每一步都在推翻正确答案。短会,但散会时把方向带反了。这是质量问题,而且是血淋淋的那种。

这两个极端直接引出论文里一个关键的统计学发现:OR 和 AD 的 Spearman 相关系数是 -0.330。相关性的绝对值不大,且方向为负--冗余多不代表伤得重,冗余少也不代表安全。这是两种独立的病,需要两种独立的药。任何只盯着"缩短思考长度"的效率方案,都可能犯两个错误之一:在数学任务上砍掉了无害的验算(损失小),或者在 GPQA 类任务上放过了致命的改错(损失大)。

还有一组数字最能说明"为什么不能一刀切"。同一模型、同一道题,仅仅因为采样了 16 条不同的轨迹,轨迹之间的 OR 平均绝对差异就有 20.23 个百分点,AD 平均绝对差异 10.06 个百分点。什么意思?这道题对模型 A 来说,第一条轨迹可能在 30% 处就到峰了,第二条轨迹要 70%。题目相同、模型相同,只是掷骰子的随机性不同,最佳刹车点就能挪动四十个百分点。"给所有问题定一个统一的思考预算"这件事,从数据上就注定失败--这正是后文 Pareto 分析要论证的。

最后是一个微观层面的观察,很有画面感:研究者追踪了思考后期每一步的变化方向,发现后期步骤以"无变化"为主--绝大多数晚期 token 是在原地打转、复述、验算已确认的东西;而负面变化与正面变化的比值随推理推进不断上升。也就是说,越到后期,思考每推进一步,"帮倒忙"相对于"帮正忙"的赔率越差。话筒还烫着,但答案已经凉了,而且越凉越难焐热。

🚗 三种刹车,一张赛道图

量完病灶,自然要开药方。论文的第二步,是把"何时停止思考"这个问题从直觉变成数学,再从数学变成地图。

统一的数学语言:预算约束下的动作选择。 想象你管理一个车队,每条思考轨迹是一辆车,终点是正确答案,车速是 token 消耗。你的总预算是固定的(钱只够这么多 token),问题是如何决定每辆车跑多远。三种主流止损策略,对应三种截然不同的管理风格:

路线 A:动态路由(DR)--"这趟要不要发车"

粒度最粗的一档。对每个问题做一次二选一:0,完全别思考,直接出答案;1,完整思考到底。代表方法是 ThinkSwitcher。这就像公司的差旅审批:简单的事不允许出差(不许思考),复杂的事必须飞过去当面谈(必须想完)。没有任何中间态--没有"视频通话聊十分钟"这个选项。

路线 B:固定预算(FB)--"出发前掐表"

对每个问题给一个 token 上限,想超了就强制交卷。代表方法是 Predictive Scheduling。像给演讲比赛统一规定:每人七分钟,铃一响必须收尾。比 DR 灵活--因为"七分钟"可以是任何数字,不是"要么零分钟要么不限时"--但它仍然是问题级的统一决定:这道题配 500 token 就 500 token,具体到某条轨迹是不是 300 token 就够,它不管。

路线 C:动态早退(DEE)--"每个人自己觉得该撤就撤"

粒度最细的一档。对每一条轨迹独立决定停止位置:这条轨迹想到第 137 步觉得稳了,收;那条轨迹对同一道题想到第 400 步还觉得虚,继续。代表方法是 ThinkBrake。这是把判断权交给每一个正在思考中的实例,而不是事前由问题决定。

这三种策略,在数学上呈现出干净的包含关系:DR 是 FB 的特例(预算设为零或无穷大,FB 就退化成 DR),FB 又是 DEE 的特例(所有轨迹共享同一个预算上限,DEE 就退化成 FB)。用集合写就是 DR ⊆ FB ⊆ DEE。在车队比喻里:只批"出不出车"的调度方案,一定是"规定里程"方案的子集;而统一规定里程的方案,又一定是"每辆车自己导航"方案的子集。选项的灵活性,就是理论的潜力。

现在引入 Pareto 前沿。这个词值得花两分钟讲清楚,因为它是全文的另一半主角。

经济学里有个经典场景：一个国家只有有限的生产要素，要同时生产大炮和黄油，多造一门大炮就得少生产一批黄油。把所有“造大炮最多且黄油没少造”的组合点连成线，就是这条经济的 Pareto 前沿——线内的所有点都是浪费，线外的所有点都是幻想。推到赛车上：每辆车的刹车系统决定了它的“刹车距离—稳定性”曲线，曲线下方是达不到的物理禁区，曲线上每一点是一个具体配置，是“不可能更优”的临界点。把三种刹车系统都装上同一辆车分别测试，你会得到三条曲线。哪条曲线整体更靠左上（刹得短又稳），哪个系统就理论更优。注意：前沿说的是理论极限，不是任何一台具体机器的表现——现役车手都还没把任何一辆车开到它的物理极限。

这篇论文做的,就是把 DR、FB、DEE 三种"刹车系统"分别装上同一个模型车队,算出各自的理论前沿 F_DR(B)、F_FB(B)、F_DEE(B)--横轴是思考预算 B(钱花多少),纵轴是准确率(事情办成多少)。结果毫无悬念但意义重大:F_DR(B) ≤ F_FB(B) ≤ F_DEE(B),决策灵活性越大,每个预算水平上的理论极限越高。包含关系直接翻译成前沿排序--集合小的策略,它的所有可能折中点都落在集合大的策略之内。

前沿差距到底有多大?这是全文最锋利的一组数字

以"匹配完整推理准确率"(A_full = 72.33%)为标尺,三种策略各需要花多少预算?

• DR:71.4% 的预算。想靠"简单题直接答、难题全部想完"这套粗放策略追平完整思考,你几乎得把所有题的预算都花出去--省不了什么钱。
• FB:35.0%。给每题定一个恰到好处的统一预算,立省六成五。质的飞跃。
• DEE:14.2%。让每条轨迹自己决定何时停,只需要不到七分之一的预算就能追平 72.33% 的完整推理准确率。两个数量级的差距。

再换一把尺:三种策略的准确率上限分别是 DR 约 73%、FB 约 76%、DEE 约 81%。即使预算无限,DR 天花板在 73%--它注定有一部分题被错判成"简单题"而没给思考机会。而 DEE 的上限高出完整推理的 72.33% 整整约 9 个百分点--完整思考本身,甚至不是最优策略。模型默认的"想完为止",连理论第二都排不上。

而且 DEE 的上限来得特别"便宜":达到自家上限只需要 58.6% 的预算(DR 要 94.2%,FB 要 87.2%)。曲线早早地就平了--这就是 STP 测量里那条"token-准确率响应曲线"的理论版:最佳刹车点之前,每脚油门都有用;之后,全是空转。

这组数字放在一起，讲了一个完整的故事：“何时刹车”这个问题的答案，高度依赖你能以什么粒度刹车。策略的表达能力（expressiveness）决定它的理论极限，而现有所有方法都还远远摸不到自家极限。

值得停下来想一想 DEE 上限 81% 这个数的另一层含义。它比完整推理的 72.33% 高出约 9 个百分点——这个数字和 STP 测出的平均 AD（9.03pp）严丝合缝地对上了。这不是巧合，而是同一枚硬币的两面：STP 测的是“现实中模型想过头丢了多少分”，Pareto 前沿算的是“理论上及时刹车能多拿多少分”。测量和理论在两个独立的框架下指向同一个病灶，这才是让人信服的证据链。

还有一个容易忽略的细节：DR 的上限约 73%，其实和完整推理准确率 72.33% 只差不到一个百分点。这说明在实验覆盖的任务分布上，“简单粗暴地二选一”只要路由判断足够准，理论上几乎不损失什么——但代价是省不了钱（需要 71.4% 的预算）。而 DEE 是另一个极端：既省钱（14.2% 追平）又高分（上限 81%），唯一的代价是实现最难——你得在思考进行中的每一步都回答“现在停，答案够好吗”这个问题，而这个判断本身也要花 token、花延迟。论文诚实地把“信号计算开销未计入预算”列为局限，等于承认这张地图的海拔还欠一次校准。

🏁 对着极限赛跑:所有选手都还有油

有了赛道地图,下一个问题自然浮现:现有的这些方法--ThinkSwitcher、Predictive Scheduling、ThinkBrake--跑在什么位置?

论文给出的答案干脆利落:全部低于自家策略的理论前沿。ThinkSwitcher 在 DR 前沿之下,Predictive Scheduling 在 FB 前沿之下,ThinkBrake 在 DEE 前沿之下。用赛车的话说:三条赛道上,所有现役车手都还没有把车开到刹车系统的物理极限,差距从几个百分点到十几个百分点不等。

这个结论的重要性怎么强调都不为过。在此之前，这个领域的论文互相比较的方式是“A 方法比 B 方法在某个基准上高 X 个点”——盲人摸象，摸到大腿的说大象是柱子，摸到耳朵的说大象是扇子，谁也不知道大象到底长什么样、离它跑多快差多远。现在有了 Pareto 前沿，比较的单位变了：每种方法距离自己的理论极限还差多远。一个方法可能绝对分数不是最高，但已经贴着前沿跑（说明设计合理、潜力榨干）；另一个方法可能分数领先，但离前沿还有大缺口（说明它只是碰巧策略类选对了，实现还有大把红利）。研究方向也随之改变：前沿之下的缺口，就是未来每一篇终止策略论文的增量空间，论文的卖点从“我比 SOTA 高几个点”变成“我把自家策略类的潜力兑现了几个点”。这就是“评测的生命力”的真正含义：评测工具升级了，整个领域的进步坐标系就要跟着升级。

为了让这场赛跑可持续,作者把测量基础设施全部开源为 OTBench 基准:

• 70.5B 推理 token 及对应的探测测量数据(STP 的完整 CT 影像);
• 公开的训练 / 验证 / 测试数据分割;
• 统一的策略接口(你写一个新刹车方法,插口是标准的);
• 专用的评估器;
• 覆盖六种模型、四个基准组。

OTBench 的定位很清晰:它不是又一个排行榜,而是一张带等高线的地图。排行榜告诉你谁在山头,地图告诉你哪条路理论上能上山顶。

论文也坦承了边界：只测了六个模型、四个基准组，结论的外推性有待更多模型检验——尤其是参数量更大、思考习惯迥异的旗舰模型是否遵循同样的曲线形态；STP 本身是测量工具，不能当作在线停止算法部署——它回答“病灶在哪”，不直接“治病”，每次测量要跑 16 次探测的成本决定了它属于放射科而不是药房；Pareto 前沿是离线参考，不是开箱即用的策略，前沿的每一点都是“上帝视角”回看整条轨迹后的最优解，而真实部署中的模型没有上帝视角；另外框架没有把“判断该不该停”这一信号本身的开销算进预算，这对 DEE 类方法的理论优势是一个尚未折价的保留项。这四条边界每一条都是后续论文的入口，这正是好评测的标志：它结束了一个争论（overthinking 到底多严重），同时开启了十个新问题（哪种 DEE 实现能贴近 81% 的上限？信号开销算进去之后前沿怎么移动？STP 曲线能不能在线估计而不是事后测量？）。

🪞 回到系列：评测为什么需要“刹车点”

把这篇放回「评测的生命力」的大框架里看，它的位置非常独特。前两篇讨论的其实是评测的“防守”：靶子会老化，就需要不断翻新靶子；选手会过拟合，就需要设计防刷的机制。而 OTBench 展示的是评测的“进攻”：评测不仅可以度量模型的输出，还可以度量模型的工作过程，并且能指出过程里哪一段是无效的劳动。这把尺子的出现，意味着“思考效率”从一个修辞学的抱怨（“模型话太多了”）变成了一门有坐标系的工程学科：有病历（OR/AD 的分布），有病理分型（MATH 型与 GPQA 型），有解剖图（token—准确率响应曲线），有药典（DR/FB/DEE 的统一框架），还有药理极限（Pareto 前沿）。

一个领域成熟的标志，就是它开始测量自己曾经用形容词描述的东西。overthinking 曾经是形容词，现在是 64.3% 和 9.03pp。

而本文最锋利的一刀，其实落在那句“所有公共方法都低于各自策略的理论前沿”上。它等于告诉整个赛道上的所有选手：你们现在比的，是谁在离终点很远的地方跑得快；真正的比赛，是看谁先摸到物理极限。评测从记分牌变成了发令枪——这就是它的生命力。

🔢 关键数字

📚 参考文献

Constructing Pareto Frontiers of Optimal Reasoning Termination Methods for Overthinking in Reasoning Models
Weixin Guan, Liang Li, Shiyu Xie, Jiapeng Liu, Bing Li, Peng Fu, Chengyang Fang, Xiaoshuai Hao, Can Ma, Weiping Wang
中科院信息工程研究所、国科大、佛罗里达大学、江西财经大学、理想汽车
arXiv: 2610.13570(2026-10-09)

#论文 #arXiv #AI #小凯 #评测的生命力