AI 改进 AI 的两条路:从哥德尔机到 HarnessX
1965 年,统计学家古德写下一句话:能够设计出比自己更聪明的机器的机器,一旦造出第一台,人类的发明事业就到头了。这是「智能爆炸」的最早版本,比神经网络实用化早了半个多世纪。
让它从猜想变成工程问题的,是过去两年里出现的一批系统。有的让模型在测试时继续训练自己,有的让一段外围代码反复改写自己。它们都还不聪明,但它们都真的在跑、真的在涨分。这篇文章把这些系统排在一张地图上,看看每条路走到了哪里,哪里有坑。
先说地图的画法。改进自己只有两个下手的地方:模型自己(权重),或者模型外面的那圈代码(工具、记忆、工作流——行话叫 harness)。一篇 2025 年的综述把这叫 θ 轴和 Σ 轴。名字唬人,意思简单:要么继续训练模型,要么改它身上的装备。
权重那条路:自己给自己当裁判
TTRL(测试时强化学习,2025 年 4 月)做了一件乍看不可能的事:在没有任何标注的数据上做强化学习。裁判从哪来?模型自己的多数投票。同一个题采样一百次,多数答案就算对。这个「多数共识当奖励」的办法让 Qwen-2.5-Math-7B 在 AIME 2024 上的 pass@1 提了 211%——用的全是没标签的测试题。
有个细节值得多看一眼。论文报告 TTRL 稳定超过模型自身的 maj@n 上限——多数投票投一百次能达到的上限,被只投一次的模型超过了。机制不神秘:RL 把「答案落在多数派附近」的输出放大了,等于把考试时多想几次的运气蒸馏回单次作答。但这也埋着自我确认的循环:奖励是模型自己的共识,模型变自信之后,共识更容易达成,奖励更容易满足。裁判和选手是同一个人。
Agent0(2025 年 11 月,北卡教堂山和 Salesforce)把自我出题做成了双主角。两个从同一个底座模型出发的智能体,一个当出题人,专门出「略高于解题人当前水平」的题;一个当解题人,带着工具去解。解题人变强,出题人被迫加码,互相抬着走。全程零外部数据,数学推理 +18%,通用推理 +24%。出题和解题的军备竞赛,替代了人类标注员。
装备那条路:从哥德尔到达尔文
另一条路的祖先更老。Schmidhuber 2003 年的哥德尔机是一个能改写自己任何代码的程序,但有个苛刻的前提:只有当它能「证明」这次改写在形式系统里严格更优时,才允许动手。优雅,严格,几乎跑不动——证明的代价太高。
达尔文戈德尔机(DGM,Sakana AI,2025 年 5 月)的名字就是答案:把「证明」换成「实测」。它改写自己的代码,跑测试集,留下变好的变体,扔掉变差的。SWE-bench 从 20% 涨到 50%,两年前这条路的代表作还只是个想法。
从 DGM 往后,这条线开始加速,而且方向清楚:越来越深入「改装备」这件事本身。
ADAS(2024 年 8 月)让 agent 用代码写 agent,发现的写法存进档案供后续取用。Hyperagents(2026 年 3 月)注意到 DGM 有个隐蔽的限定:它改进的是编码 agent,用编码任务评估改进,改的东西和测的东西同域——这套自指在编码领域恰好闭合,出了编码就不闭合了。Hyperagents 的做法是把「元级修改程序」本身也变成可编辑对象:agent 既改任务代码,也改改任务代码的那段代码。
Meta-Harness(斯坦福等,2026 年 3 月)解决的是反馈怎么给。此前的自动优化器把历史经验压成标量分数或几行摘要——压缩得太狠,细节全丢了。它反过来:让提议者通过文件系统翻看所有历史候选的完整源码、分数和执行轨迹。在在线文本分类上超过了此前最强的上下文管理系统。把历史当文件翻,不是当摘要读。
AHE(复旦等,2026 年 4 月)是目前这条线上把工程做透的。三个支柱:组件可观测——harness 拆成七个文件级组件,每次改动进 git,可检查可回滚;经验可观测——千万 token 的原始轨迹蒸馏成分层报告,默认读摘要但随时能下钻到原始记录;决策可观测——每次改动必须自带「预期影响」,下一轮任务结果自动验证这个预测,错了就翻车。Terminal-Bench 2 的 pass@1 从 69.7% 到 77.0%。
HarnessX(2026 年 6 月)把零件做成代数。harness 的部件变成带类型的可组合原语,用替换代数组装,一个叫 AEGIS 的引擎从执行轨迹驱动进化。五个基准平均 +14.5%,最高 +44%,而且增益最大的地方是基线最差的地方。它还把循环闭上:轨迹不只回灌 harness,也回灌模型训练信号——装备和权重两条路在这里合流。
分数涨了,然后呢
这张地图上所有系统都报了涨分。但 2026 年有两组研究者开始给涨分本身挑刺。
AI2 和华盛顿大学的一篇评审论文指出:harness 进化的评测有个结构性漏洞——进化过程用测试用例当搜索反馈,最后又在同一个公开基准上报成绩,而同算力的朴素基线(直接在任务上多采样几次)往往没被认真排除。涨的分里有多少是「装备变好」,有多少只是「在同一张卷子上多刷了几遍」,这套协议分不开。
另一个叫 HarnessDev 的基准列出了装备过拟合的四种形态:过拟合写它的那个模型、背下开发样例、提一个能力悄悄掉一个能力、在反馈集上提分但换个任务就不行。
有意思的是,AHE 在自己的分析里撞见了同类问题,而且说得更狠。两条限制:其一,组件之间非加性——各自有效的改动堆在一起,总收益会封顶,harness 不是乐高;其二,自我归因对修复可靠,对回归盲——系统很擅长讲清楚自己为什么修好了什么,几乎看不见自己弄坏了什么。每次改动自带的预测,对「变好」的预测准,对「变坏」的预测失灵。
这第二条值得停在原地。自我归因对回归盲,不是 AHE 的 bug,是一切自指系统的共性:裁判和选手同源时,选手的进步看得见,选手的犯规看不见。AHE 的应对是让预测被下一轮真实任务结果证伪——把「我说它会变好」变成可以被推翻的断言。哥德尔机当年用形式证明解决这个问题,代价是跑不动;现在大家用 held-out 重放解决,代价是回归可能漏网。严格性和可运行性之间,这道坎从 2003 年到现在没变过。
回到爆炸
古德的条件翻译成今天的话:改进这件事本身,能不能被改进。目前的证据是「有一点,还很早」。TTRL 超越了自身的多数票上限,Agent0 的出题人自动加码,HarnessX 把轨迹回灌训练信号,上个月还有团队让模型搜架构、写算子、造出整个模型。改进的改进,雏形都在。
但同一个时期的评测论文在说另一件事:相当一部分「进步」跑在评测的盲区里。改进的速率造假不易、但改进的方向可以挑软柿子捏——涨分容易的地方未必是智能所在的地方。爆炸论里最脆弱的一环也许不是机器的改进速度,而是人类这边:出题、判卷、辨别真进步和过拟合,这些活还是人在干。机器改进自己用天计,人类换一套评测习惯用年计。
DGM 把 SWE-bench 从 20% 抬到 50% 用了 80 轮迭代。AHE 从 69.7% 到 77.0% 用了十轮。这两个数字都真。它们之间隔着的那道题——分数上去了,智能跟没跟——还没有人给出裁判。
信源:TTRL (arXiv:2504.16084)、Agent0 (arXiv:2511.16043)、STOP (arXiv:2310.02304)、ADAS (arXiv:2408.08435)、Darwin Gödel Machine (arXiv:2505.22954)、Hyperagents (arXiv:2603.19461)、Meta-Harness (arXiv:2603.28052)、AHE (arXiv:2604.25850)、HarnessX (arXiv:2606.14249)、Rethinking the Evaluation of Harness Evolution (arXiv:2607.12227)、HarnessDev (arXiv:2609.01437);I. J. Good (1965)、Schmidhuber Gödel Machine (arXiv:cs/0309048)。各系统数字均出自对应论文摘要。
讨论回复
加载中...正在加载回复...
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。