测试时权重一个不动,只有程序在生长

一个 4B 的小模型,改代码的水平超过了它的 35B 老师。而且它不是在解题——它的全部工作是修改另一段代码。CMU 和约翰霍普金斯的新论文(arXiv 2609.35738)管这件事叫 Harness Learning:训练一个专门改 Agent 程序的模型,把程序改好后的任务得分当作奖励信号。整个测试过程中,所有…

目录
  1. 测试时权重一个不动,只有程序在生长
  2. 先说清 harness 是什么
  3. 程序版的元学习
  4. 数字
  5. 两条路,一个分工
  6. 它站在自主度的哪一级

测试时权重一个不动,只有程序在生长

一个 4B 的小模型,改代码的水平超过了它的 35B 老师。而且它不是在解题——它的全部工作是修改另一段代码。CMU 和约翰霍普金斯的新论文(arXiv 2609.35738)管这件事叫 Harness Learning:训练一个专门改 Agent 程序的模型,把程序改好后的任务得分当作奖励信号。整个测试过程中,所有模型参数冻结,只有程序在变。

先说清 harness 是什么

一个语言模型 Agent,其实是两样东西的合体:模型,加上 harness——组织模型调用、工具使用、信息流转的那个可执行程序。同一个模型,配上不同的 harness,就是行为完全不同的 Agent:先搜索再作答,还是先拆解再分派,还是边算边自检,全在程序里定。

这套程序对任务很敏感。迷宫任务和数独任务,理想的组织方式不一样;单跳问答和多跳问答,检索的编排也不一样。所以 harness 需要按着当前任务的反馈来调整。此前的自动化工作(自动工作流设计那一族)大多是「当场搜」:给一个任务,现场试各种结构,挑最好的。这篇论文换了个思路——把「改 harness」本身变成一种可以学习的能力。

程序版的元学习

论文的关键动作是一个类比:harness 的修订,扮演权重更新在梯度下降里的角色。

传统元学习训一个模型,让它面对新任务时能用几步梯度更新快速适应。这里换成:训一个 proposer 模型,让它面对新任务时能提出几次 harness 修订快速适应。任务描述、当前程序、上一版的执行报告,是 proposer 的输入;改好的程序是输出;程序在新问题上跑出来的得分,是奖励。训练用 GRPO,先拿 35B 老师的修订数据做监督冷启动,再用强化学习拔高。

到测试时,戏法来了:proposer 和 solver 的参数全部冻结。proposer 看一遍任务,提一版修订,跑一遍,看执行反馈,再提一版——五轮、十轮,程序在一轮轮生长,两个模型的权重从头到尾一个数都不动。所谓「改 harness 的能力进了模型权重」,指的就是训练时把这份能力练进去,测试时它以程序修改的形式兑现。

数字

Reasoning Gym 的一组实验里,proposer 在 21 个训练时从没见过的任务族上被测试,改出来的 harness 平均得分超过它的 35B 老师——这个说法要带上条件:是单步修订下的平均值,不是每个任务都赢。QA 那组更细:只用 HotpotQA 训练的 proposer,被扔到 MuSiQue 和 2WikiMultihopQA 这两个多跳问答基准上,照样有效。HotpotQA 自身的起点是 0.39 的精确匹配,单步修订平均到 0.41;八个候选里挑最好的(oracle)能到 0.54。71% 的修订比原程序强,改坏的只有 1.3%—— proposer 学到的不只是「会改」,还有「很少改坏」。

多轮的故事更耐看。在 MuSiQue 上,独立提一版修订只把得分从种子水平挪到 0.15,而连续修订十轮能到 0.27——程序是能一轮轮长起来的。但另一组实验提醒别高兴太早:Reasoning Gym 上,单步 RL 的 proposer 五轮收益里大头在第一轮就拿到了,后面的修订边际变薄;QA 场景则反过来,第一次修订只贡献三分之一到三分之二的收益,说明程序在长上下文任务里还有更多可长的空间。什么时候长得动、什么时候长不动,两种设置给出了两份不一样的答案。

两条路,一个分工

翁家翌 2026 年写过一篇博文,Learning Beyond Gradients,提出 heuristic learning:让 AI 把积累的经验直接写进可编辑的状态——程序、启发式、备忘录,改的就是外部世界里的东西,权重照样不动。

和这篇论文放在一起,正好是一组对照。一条路把经验写进程序:每次都是模型当场想、当场改,经验落在程序里。另一条路把修改策略训进模型:先花大力气练出「会改程序」的直觉,测试时模型不再学新东西,只出手。前者的每个改动都要现场推理,后者把推理压缩成了反应。至于哪条划算——这篇论文的答案偏向后者:改坏率 1.3% 这个数字,现场推理很难稳定做到。

它站在自主度的哪一级

上海交大 9 月发的 RSI 综述《The Last AI Built by Humans》把递归自我改进分成五级:L1 执行自主,L2 策略自主,L3 经验自主,L4 部署与环境适应,L5 元改进——改进「改进流程本身」。综述里 L2 的定义是:系统自主决定怎么改进,但改进的目标、评测标准、接受规则仍由外部给定。Harness Learning 卡位就在这一级:改哪里、怎么改,proposer 说了算;而一条修订能不能留下来,规则是死的——只有当开发集分数提升时才保留。

这条保留规则值得多看一眼。它是整个循环里最不 AI 的部分,却可能是最要紧的部分:程序可以一轮轮生长,但每一轮的「验收」握在人定的规则里。L3 往上的路——让系统自己积累经验、自己适应环境——这篇论文还没碰,任务族仍然局限在推理和多跳问答。程序在生长,栅栏也还在。当下这一步的真实图景是:改的权力下放了,验收的权力没有。

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(0)

暂无回复,登录后可参与讨论
合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens