42毫秒学会解数独:1980年代的能量函数如何碾压2026年的循环推理模型
2026年11月的一个下午,Prefrontal实验室的三位研究者做了一个实验。他们从1985年的论文里翻出一个几乎被遗忘的数学工具——Hopfield和Tank的能量函数——给它喂了几道数独题,然后按下了训练键。
目录
42毫秒学会解数独:1980年代的能量函数如何碾压2026年的循环推理模型
一个让深度学习社区集体沉默的实验
2026年11月的一个下午,Prefrontal实验室的三位研究者做了一个实验。他们从1985年的论文里翻出一个几乎被遗忘的数学工具——Hopfield和Tank的能量函数——给它喂了几道数独题,然后按下了训练键。
42毫秒后,训练结束。
这个模型在10000道地狱级数独测试题上答对了99.996%。作为对比,当前最强的循环推理模型TRMP用了9个小时训练,答对99.87%。另一个模型EqR训练了2小时,推理一道题需要2.11×10¹⁴次浮点运算。CRAM推理一道题只需要2.02×10⁹次。
快了10万倍。
这不是恶作剧,也不是刷榜技巧。论文标题是《Classical Energies Learn to Reason 1,000x Faster than Looped Models》,作者Benjamin Hoover、Hugh Blayney和James C.R. Whittington,来自伦敦的Prefrontal实验室。代码已开源(Apache 2.0)。
循环推理的繁荣与焦虑
要理解这个实验为什么让人坐直身子,得先看看"循环推理模型"(looped reasoning models)这两年在做什么。
2025-2026年,AI推理领域冒出了一大批"会思考"的模型:HRM、TRM、GRAM、EqR、FRM、TRMP、EBR……它们的核心想法很优雅——同一个神经网络层,反复施加多次,就像人在草稿纸上反复推演。数独?反复施加100次。迷宫?反复施加200次。理论上,循环次数越多,推理越深。
这些模型确实有效。HRM在ARC-AGI上拿了不错的分数,TRM解了85%的地狱数独,GRAM更是到了96%。一时间,"循环=推理"几乎成了共识。
但繁荣之下有暗流。
第一个问题:训练太慢。循环模型必须用沿时间反向传播(BPTT)来训练——你得把整个推理链展开,从第100步往回传梯度,一路传到第1步。梯度在100步里反复相乘,要么消失要么爆炸。训练一个HRM解数独需要1.2小时,训练它走迷宫需要7.1小时。GRAM更夸张,迷宫任务要23.2小时。
第二个问题:参数浪费。HRM用2700万参数解数独。但数独的规则用一句话就能说清楚——每行、每列、每个3×3宫格里的数字1-9各出现一次。为什么需要2700万参数来表示这么简单的约束?
第三个问题:不知道什么时候停。循环模型需要一个额外的"停止网络"来判断推理是否完成,或者硬编码一个固定步数。前者多一个可能出错的模块,后者在简单题上浪费算力,在难题上又不够。
第四个问题:所有题目花同样的算力。一道简单数独和一道地狱级数独,循环模型花同样的推理步数。但人类不是这样——简单题扫一眼就出答案,难题才需要反复推敲。
研究者们一直在给循环模型打补丁:加停止网络、加收敛检测、加自适应步数。每个补丁都让模型更复杂一点,训练更慢一点。
1985年的老酒
Hopfield和Tank在1985年提出了一个想法:把推理建模成能量最小化。
想象一个地形——有山有谷有平原。每个可能的答案对应地形上的一个点。正确答案在谷底,错误答案在山坡上。推理就是让一个球从某个起点滚下去,直到停在谷底。
这个"地形"就是能量函数。对于数独,能量函数的设计很直观:如果某行有两个相同的数字,能量就高一点;如果满足所有约束,能量最低。
Hopfield和Tank当时手写了能量函数,确实能解一些逻辑问题。但那是1985年,深度学习还没影子,他们没法从数据中学习能量函数的权重——只能靠手工设计。
深度学习时代来了之后,这个思路几乎被遗忘了。原因很简单:能量函数的训练需要对比正样本和负样本的能量,采样负样本需要运行马尔可夫链,这比直接用BPTT训练循环模型还麻烦。
直到现在。
CRAM:把1985年的能量函数变成可学习的
CRAM的全称是Compact Reasoning Associative Memory(紧凑推理关联记忆)。它的核心想法一句话就能说清楚:把Hopfield-Tank能量函数的权重变成可学习的参数,然后用伪似然(pseudolikelihood)目标从解题数据中训练它。
关键创新在于训练方式。传统能量模型需要采样负样本来"推高"错误答案的能量,这需要运行完整的推理链——又回到了BPTT的老路。但伪似然目标只需要在正确答案的每个位置上做局部评估:给定数独第5行第3列的数字,根据其他所有格子的数字,这个位置应该是几?
这就像学语法不需要写整篇文章,只需要做完形填空。
训练时不需要展开推理链,不需要反向传播穿过时间,不需要处理梯度消失。每个训练步骤就是一个局部计算。这就是为什么CRAM训练数独只需要42毫秒——它根本不做那些耗时的事情。
能量函数长什么样
CRAM的能量函数形式上是一个配对马尔可夫随机场(pairwise MRF)。用大白话说:
- 每个格子有一个"信念向量"——9个数字各自的概率
- 每对格子之间有一个"代价矩阵"——如果格子A是数字3、格子B也是数字3,代价是多少?
- 整个棋盘的能量 = 所有格子对的代价之和 + 所有格子自身的偏置 + 一个熵正则项
推理过程是"松弛"(relaxation):把已知数字"钉住"(clamped),让其他格子的状态自由演化,沿着能量梯度下降。用Gibbs采样来引入随机性,帮助跳出局部最小值。当某个棋盘的能量低于训练数据拟合的停止阈值时,搜索结束。
多条搜索链可以并行运行,谁先到达终点谁就赢。这天然支持并行——不像循环模型那样必须串行执行。
五个让循环模型羡慕的特性
1. 训练快1000倍
这是最直观的数字。在Sudoku-Extreme上:
| 模型 | 训练时间 | 准确率 | 参数量 |
|---|---|---|---|
| HRM | 1.2小时 | 54.62% | 27.0M |
| TRM | 2.5小时 | 85.73% | 5.0M |
| GRAM | 3.2小时 | 96.10% | 9.1M |
| EqR | 2.0小时 | 99.49% | 5.0M |
| TRMP | 9.0小时 | 99.87% | 32.8K |
| EBR | 2.8小时 | 99.85% | 1.8M |
| CRAM | 0.04秒 | 99.996% | 7.7K |
2. 推理快282倍
在Sudoku-Extreme上,CRAM匹配EBR最高准确率时,使用的推理FLOPs少了282倍。对比EqR,少了128,000倍。
原因在于CRAM的推理是纯粹的梯度下降——每步只需要计算能量对每个格子状态的偏导数,然后更新。没有注意力机制,没有Transformer前馈网络,没有多层感知机。就是矩阵乘加。
3. 算力随难度自适应
这是CRAM最优雅的特性之一。循环模型对所有题目用同样的步数。CRAM的搜索在能量低于阈值时停止——简单题能量下降快,很快停;难题需要更多搜索步骤。
研究者把10000道测试题按难度分箱。从最简单到最难的箱子,CRAM的中位计算量只增长了22倍。而EBR虽然也有早停机制,但它的计算量在所有难度箱里几乎不变——因为它的停止规则基于梯度范数,不是基于"是否到达解"。
更关键的是:CRAM的停止规则从不犯错。它从不会在一个错误答案上停下来。而HRM、TRM、EqR、TRMP和EBR的停止规则,在0.05%-3.54%的情况下会在错误答案上停下。
能量阈值为什么可靠?因为训练数据的正确解都有低于某个值的能量,而错误解的能量分布明显更高。这个阈值是从数据中拟合出来的,不是人为设定的。
4. 权重可解释——你能直接读出数独规则
这可能是最让人惊奇的发现。
CRAM在数独上训练完成后,研究者检查了它学到的7700个非零权重。发现CRAM精确地在810对共享行/列/宫的格子之间学到了正代价,其他所有格子对的代价为零。
换句话说,CRAM从解题数据中独立"发现"了数独的三条规则:同行不重复、同列不重复、同宫不重复。没有人告诉它这些规则,它只看到了解好的数独题。
在迷宫任务上,CRAM学到的18个权重对应一个叫"死路填充"(dead-end filling)的局部算法——这是已知的能解决所有完美迷宫的规则。CRAM从迷宫解中独立发现了这个算法。
这和循环模型形成鲜明对比。HRM的2700万参数是一个黑箱,你无法从中读出任何可理解的推理策略。CRAM的权重就是规则本身。
5. 手设权重比学习权重更好
这是论文里最"刺激"的发现。研究者直接用数独规则手写了CRAM的权重——只需要1个唯一的权重值(所有约束格子对共享同一个正代价)。迷宫手设权重需要3个唯一值。
结果:
- 手设CRAM在Sudoku-Extreme上100%正确,推理FLOPs比学习版还少19倍
- 手设CRAM在Maze-Unique上100%正确
- 手设CRAM在N-Queens和Graph Coloring上也是所有方法中最强的
这个发现的含义远超数独本身。它意味着:这些"推理基准测试"所测试的约束关系,简单到可以用3个数字表示。任何在这些基准上取得高分的模型,都不能证明自己具备可扩展的推理能力。
一个诚实的警告
论文最值得尊敬的部分,是作者们没有回避这个结论。
他们在Discussion里明确写道:Sudoku-Extreme、Maze-Unique、N-Queens、Graph Coloring——这些任务的约束关系都可以被CRAM的配对能量精确表示。在这些任务上拿高分,不能说明模型能扩展到ARC-AGI-1这样的难题。
他们还展示了一个叫Maze-Hard的任务——迷宫的解依赖于每个格子到目标的距离,这是一个需要"计算"的量,不是简单的配对约束。CRAM在Maze-Hard上需要一个隐层扩展才能接近解决,而且需要任务设计的先验知识。
这个诚实的态度让整篇论文的可信度大增。他们不是在说"能量函数万能",而是在说"能量函数在约束推理上碾压循环模型,但约束推理本身不是推理的全部"。
为什么BPTT不是唯一选择
这篇论文对深度学习社区的方法论冲击,可能比对推理模型本身更大。
过去几年,"训练推理模型"几乎等同于"用BPTT训练循环结构"。如果模型需要思考100步,你就把100步展开,从第100步往回传梯度。这导致了:
- 训练慢(梯度要穿过100层)
- 不稳定(梯度消失/爆炸)
- 显存大(要存100步的中间状态)
- 难调试(100步的哪一步出了问题?)
这让人想起BERT的训练——掩码语言建模不需要生成文本,只需要完形填空。但BERT在推理时也不需要生成。CRAM的不同之处在于:训练用局部目标,推理用全局能量下降。训练快,推理也完整。
论文还比较了12种不同的训练目标。伪似然最快(48ms达到99%),最小概率流次之(0.21秒),对比散度需要33秒,完整BPTT在245秒后只达到27%准确率。局部目标全面碾压全局目标。
对AI工程实践的启示
1. 重新审视"循环=推理"的假设
循环模型的成功可能不是因为"循环"本身,而是因为循环结构碰巧学到了某种隐式的能量函数。如果是这样,直接学习能量函数更高效——不需要绕路。
论文指出,最近的循环模型已经开始"偷偷"引入能量的概念:有的训练更新步骤收敛到吸引子(能量的固定点),有的学习停止网络(能量的阈值检测)。每个补丁都是在重建能量的某个性质。
既然如此,为什么不直接用能量?
2. 基准测试需要升级
如果3个手设数字就能在Sudoku-Extreme上拿100%,那这个基准就不能区分"真正学会了推理"和"只是记住了配对约束"。
论文建议社区转向需要"计算"的推理任务——比如Maze-Hard,答案依赖于到目标的距离,不是简单的配对约束。或者ARC-AGI-1,需要从视觉模式中推断变换规则。
3. 可解释性不是奢侈品
CRAM的权重直接对应规则——这不是"可解释性技术"的成果,而是能量函数结构本身的可解释性。配对能量的每个权重都有明确的语义:它就是"两个格子取某对值时的代价"。
对比循环模型的2700万参数黑箱,这种结构化的可解释性不需要任何后处理工具。你读权重就是在读规则。
4. 数据效率
CRAM只需要30道独特的数独题就达到98%准确率。EBR需要700道。在数据稀缺的场景下,这种100倍的数据效率差异是决定性的。
开源代码
代码在 GitHub: https://github.com/Prefrontal-AI/CRAM
Apache 2.0协议。环境用uv管理,一条命令复现:
uv sync
uv run python scripts/prepare_data.py sudoku
uv run python checkpoints/evaluate.py --tasks sudoku-extreme
从零训练(不到1秒):
cd experiments
uv run python sudoku.py diag
仓库还包含了所有循环模型基线的复现代码(baselines/目录),以及每张图表的复现脚本(REPRODUCING.md)。甚至有给编码agent的AGENTS.md——这帮人连AI助手都照顾到了。
我的思考
这篇论文让我想起费曼的一句话:"如果你不能把它解释给祖母听,你就没有真正理解它。"
循环模型是"能解释给祖母听但祖母听不懂"的——反复施加同一个层,听起来简单,但2700万参数在做什么,谁也说不清。CRAM是"能解释给祖母听且祖母能听懂"的——球往低处滚,能量越低越对,规则写在权重里。
深度学习社区有一个倾向:把简单的问题用复杂的方法解决,然后用复杂方法的效果来证明问题的难度。数独需要2700万参数和9小时训练?那数独一定很难。
CRAM用42毫秒和7700参数打破了这个幻觉。不是数独难,是我们用错了工具。
但这篇论文最成熟的地方在于:它没有因为自己的成功就宣称能量函数万能。它清楚地划定了边界——配对约束推理上能量碾压一切,但需要"计算"的推理(如Maze-Hard)需要扩展。这种诚实比任何营销话术都有说服力。
1985年,Hopfield和Tank在论文里写道:"我们相信这种方法可以扩展到更广泛的推理问题。"41年后,Prefrontal的团队用可学习的版本证明了他们是对的。
有些好想法只是生错了时代。
论文: Classical Energies Learn to Reason 1,000x Faster than Looped Models
代码: github.com/Prefrontal-AI/CRAM (Apache 2.0)
作者: Benjamin Hoover, Hugh Blayney, James C.R. Whittington (Prefrontal, London)
arXiv: 2611.17309 (2026-11-12)