循环模型每跑一遍，都在扔掉一个免费陪练

一个模型把同一段计算反复跑四遍，前三遍的中间答案全部扔掉，只交最后一遍的卷。苹果团队觉得这叫浪费。他们提出的 LoopCD（arXiv 2610.02185）把扔掉的东西捡了回来：早期的「草稿答案」不该扔，它是给最终答案当陪练的——而且这个陪练免费。

先把「循环模型」说清楚。有一类模型（循环深度模型）不走「层越堆越多」的路子，而是让同一块参数反复执行：像同一个学生把一道题在心里过四遍，每过一遍理解深一层。字节跳动的 Ouro-2.6B-Thinking、Sapient 的 Huginn-3.5B、UCSD 系的 Parcae 都是这类。好处是参数省、深度弹性——Ouro 的配置文件里就一个旋钮，total_ut_steps: 4，想多想就把数调大。妙的是，这类模型每过一遍，都能当场解码出一个「当前最佳猜测」。Ouro 的模型卡自己写着：中间循环输出可以作为最终答案的可靠代理。

陪练从哪来

LoopCD 的底层技术是对比解码（Contrastive Decoding），思路用一句话讲：拿专家的预测减去业余选手的预测，把专家独有的那部分放大出来。这个思路 2023 年就有了，一直卡在一个地方——业余选手从哪来？以前的做法五花八门：有人故意弄乱提示词造一个弱化版（context-aware decoding），有人拿普通大模型的浅层当弱参照（DoLa），有人干脆养一个小模型当陪练（autoguidance）。每个方案都有成本，要么改输入，要么多养模型。

循环模型把这个难题免费解了：同一组参数，少跑几圈，就是天生的业余选手。它和专家是同一个人，做同一道题、在同一个位置，只差训练量——严格对齐的弱-强预测对，不用外挂任何东西。这就是标题里「Almost Free」的意思：不训练、不添模型、不碰提示词。

两个版本，一个提醒

论文给了两种对比的位置。LoopCD-Logits 在概率表上做：把最终循环和早期循环各自过一遍输出头，两张概率表相减对比。代价是多过一次输出头。LoopCD-Hidden 更省：直接在最终融合层之前操作隐状态，一次输出头都不用多过，真正的零额外开销。

这里要替论文把一个细节说清楚，不少转述把它糊掉了：自适应强度——模型犹豫时（概率前两名咬得越紧，指导越使劲；一个明显占优时撤力）——只属于 Logits 版。原因很朴素：量犹豫程度需要一份「没被指导过的原始概率表」，Logits 版顺手就有；Hidden 版要算这份表就得再过一遍融合层和输出头，零开销的优势当场归零。所以论文明说 Hidden 版用固定强度。把它当成两种模式共享的卖点，是转述里最常见的一处想当然。

数字

两个主结果。AIME 2024 数学竞赛上，Ouro-2.6B-Thinking 的 pass@1 从 61.88% 到 73.33%，加了 11.45 个百分点。HumanEval 代码生成上，Huginn 从 22.56% 到 31.71%，加了 9.15 个百分点——注意起点，Huginn 在代码上的底子本来就弱，这个 31.71% 谈不上强，但同一模型同一算力的条件下提了这么多，说明陪练确实有用。

更实用的一个结果：加了这个几乎免费的指导之后，可以把循环步数砍半。前向计算量（FLOPs）降 22.5% 到 48.2%，成绩仍然追平甚至超过全深度的无指导版本。等于说，省下来的算力不只是折扣，是把「多想」这笔开销花得更值了。

四组实验覆盖四个家族——字节的 Ouro、Sapient 的 Huginn、UCSD 的 Parcae、循环化的 Qwen3——增益方向全部一致，这不是在某一家模型上调试出来的运气。

为什么灵

论文的机制分析里有个很干净的发现：这套方法带来的 2.1 到 3.5 分增益，全部来自「两个候选咬得很近」的那些决策。它的逻辑是同义反复又是洞察：重排序只能改变它触碰得到的决策。所以自适应强度才要按犹豫程度分配——把力气全花在能改变结果的地方，那些「显然」的预测本来就不会错，推它纯属浪费。

还有一个使用上的分寸：多选题打分容忍很宽的指导强度，自回归生成就得收紧——一步的错误会被后面所有步复利。

收个尾

回头看 Ouro 模型卡上那句话：「中间循环输出可以作为最终答案的可靠代理。」说明书早把答案印好了，大家都读过。LoopCD 的功劳是往前多走了一步：中间输出不只是能拿来直接用的便宜替代品，它和最终答案之间的差距本身就是信号——不是问「草稿说了什么」，而是问「定稿比草稿多想了什么」。答案就藏在这段差距里。