AI 改进 AI:让机器自己复盘自己,这门手艺修到第几层了
——递归自改进(RSI)研究综述
一、从一个你干过的事开始
你肯定复盘过。考试没考好,回头看错题,发现问题不在「不够努力」,而在「刷题的方法不对」——于是改方法。下一次,你是用新方法去刷题的。
注意这个动作里藏着两层东西:一层是做题,另一层是改进做题方式。大多数人卡在第一层,高手活在第二层。
AI 也一样。让模型多做几道题、多想几分钟,这是第一层;让模型改进「它做事的方式本身」——改自己的提示词、改自己的工具箱、改自己的代码、甚至改自己脑子里的参数——这是第二层。第二层有个专门的名字,递归自改进(Recursive Self-Improvement,RSI)。叫「递归」,是因为改进的对象包含了改进机制本身:一个会改自己代码的 agent,它改进代码的能力,也是用代码实现的。
听起来像永动机?别急,这门手艺过去一年半修出了清晰的施工图,也有非常诚实的烂尾楼。我们一层层看。
二、先划一条硬线:什么才算「自改进」
不是所有「越用越好」都算。学术界现在流行一条相当苛刻的验收标准(出自上海交大 Theseus 团队 9 月那篇 75 页综述,arXiv:2609.11873):真正的自改进要求改进是可重复、可归因、可迁移的——同一种改法能再来一次(可重复)、知道是哪个改动带来的提升(可归因)、换一个任务还管用(可迁移)。
「这次碰巧跑分高」不算,「运气好」更不算。这条线一划,很多炫酷 demo 就出局了,剩下的是一门手艺。
三、改什么:一张六层的菜单
改进自己,从哪儿下手?看看人是怎么变强的:健身(改身体)、记笔记(存经验)、造工具、换工作流程、长知识、长眼光。机器的菜单几乎一模一样,而且学术圈已经把这六层都点亮了:
1. 改脑子(权重层)。 最重的一层,直接改模型参数。Metis 那条路线把经验压进权重——好处是一劳永逸,坏处是每次改动都贵,而且改完你很难说清哪个改动立了功。
2. 记笔记(经验层)。 最轻的一层。今年 1 月的 ELL 综述(arXiv 上 "Experience-Driven Lifelong Learning")和 3 月的 AutoSkill(arXiv:2603.01145)把这条路讲透了:agent 从自己的对话轨迹里自动提炼「技能」——下次遇到类似请求,把相关技能注进上下文,模型一个参数都不用重训。像不像你把踩过的坑写进备忘录?
3. 改工具(代码层)。 Sakana AI 的 Darwin-Gödel Machine(DGM)是这一层的名片:agent 阅读并修改自己的代码——它用来干活的工具,就是它自己的 agent 脚本。80 轮迭代下来,SWE-bench 成绩从 20% 干到 50%,Polyglot 从 14.2% 到 30.7%。它还学了一个很生物学的招:维护一个「改动档案库」,不把鸡蛋放一个篮子里,避免一条路走到黑。
4. 换工作台(结构层)。 这是今年 9 月冒出来的新星。Procedural Graphs(arXiv:2609.09153)的出发点特别朴素:知识图谱管「是什么」(用实体关系三元组),那「先做什么、后做什么、什么条件下做什么」这门手艺谁来管?答案是把程序性知识也画成一张图——(procedure, relation, procedure) 三元组。agent 每走一步,先在图上定位自己在哪,图把周围的结构翻译成「处境建议」——注意是建议不是命令。然后图的精华来了:一个精炼器对比成功和失败的轨迹,修改图的拓扑;只有通过留出验证集的修改才被采纳,而被拒绝的修改也留着存档——为了防止同一个坑摔两次。从一张最小骨架出发,长出来的图能比肩甚至超过人工设计的。
5. 换导航(方向感层)。 前面四层都在回答「怎么改」,但还有个更上游的问题:树上的候选改进一大把,先改哪个? Huxley-Gödel Machine(ICLR 2026 Oral)的答案是把「当前分数」换成「复利潜力」当导航——不看这个节点现在多强,看它身后那棵子树还能长多高。同一棵改进树,只换指南针,迭代的相关性从 0.28 拉到 0.78。这一课很费曼:方向感比腿脚值钱。
6. 工业拼装(全栈层)。 学术界的样本越来越精细,工业界则在拼整机:周伯文系的 OpenRSI 给出了开源递归自改进的全栈工程蓝图,把「生成、验证、记忆、路由」四个算子做成训练-推理同构的闭环;腾讯混元 8 月底官宣的科研 agent Hyra-1.0 直接把 RSI 写进产品主张——并被 Theseus 综述收录为产业样本。
四、真正的瓶颈:谁说了算
菜单看着丰盛,但所有层的循环都卡在同一个地方:提议—验证—采纳。生成一个候选改动,今天几乎不要钱(大模型量产提案);难的是验证——「这个改动真的让它变强了吗?」
这里是整门手艺的命门,坑一个比一个现实:
- 自我确认:自己给自己打分,越打越漂亮。腾讯混元×浙大 9 月 11 日发布的可靠性综述《Diving into Reliable Self-Evolving Agents》(收录 549 篇论文)干脆把分类学的第 0 级就命名为 Output 层,标注的特征失败模式就是 self-confirmation——这是整个领域最低级的坑,也是最容易掉进去的。
- 裁判被攻破:评测器本身是模型,模型就会被讨好、被钻空子。Anthropic 的评测器攻击案例和 DGM 的归因难题(80 轮迭代里,到底是哪个改动的功劳?)被 Theseus 综述列为领域三挑战之二。
- 多样性坍缩:越改越像自己,探索半径越缩越小,最后在局部最优里打转。
看看状态盘点有多冷酷:Theseus 综述的附录 B 收了 144 个系统,按「责任内化深度」分级——做到「改自己正在使用的机制」(L4)的全行业只有 3 个,做到「改进能力被下一代继承」(L5)的只有 11 个。绝大多数系统停在 L0-L1:改改当前输出的说法,或者最浅层的参数微调。
为什么这么稀疏?因为这些斯综述给出了一个自我强化的诊断:验证带宽在整条链路的末端,而末端最难自动化。提议端火力全开,验证端人肉把关,循环就转不起来——这不是某个系统的问题,是这门手艺的结构性瓶颈。
五、现状地图
| 系统/综述 | 改什么 | 谁来验证 | 结果 |
|---|---|---|---|
| DGM(Sakana, 2025) | 自己的 agent 代码 | SWE-bench 留出集 + 档案库 | 80 轮 20%→50% |
| HGM(ICLR'26 Oral) | 改进树的选择策略 | 模拟器内价值函数 | 相关性 0.28→0.78 |
| Procedural Graphs(2609.09153) | 执行结构(程序图拓扑) | 留出验证 + 被拒编辑存档 | 从骨架长到超人工设计 |
| AutoSkill(2603.01145) | 技能库(从轨迹提炼) | 动态注入,不重训 | 个性化能力跨会话积累 |
| OpenRSI(FrontisAI) | 全栈四算子 | 留出集 2×2 反转实验 | 开源蓝图 |
| Hyra-1.0(腾讯混元) | 科研任务求解流程 | 官方宣称(第三方验证未见) | 产业样本,观察中 |
| Theseus 综述(2609.11873) | 144 系统普查 | — | L4 仅 3、L5 仅 11 |
| 可靠性综述(腾讯×浙大) | 549 篇文献 | — | 两个问题:改什么+凭什么 |
六、这门手艺的本质(三点独立观察)
第一,自改进不是让 AI 变聪明,是把「变强」从一次性工程变成可记账的经营。 训练一个模型像盖一栋楼——图纸定了、封顶了,就那样了。自改进是经营一家店:每天进货(新经验)、盘库存(挑出有用的)、装修升级(改机制)。经营的复利取决于利率,而这里的利率就是验证带宽——你多快能确认「这次改动是真的赚了」。生成端的成本坍缩已经发生,下一个坍缩点在验证端。
第二,「改什么」的重心正在从脑子往工作台漂移。 原因不是权重层不重要,而是验证成本决定哪层能转起来:改权重贵、慢、难归因;改技能库和执行结构便宜、快、验证边界清晰。所以 Procedural Graphs、AutoSkill、NeoHorse 这批工作不约而同地把自改进落在「模型外面的东西」上——模型当发动机,改进发生在底盘和变速箱。这几乎是一种共识性的工程策略:先让便宜的层转起来,贵的层跟着吃红利。
第三,负结果档案是被低估的基建。 DGM 存档被拒绝的变体,Procedural Graphs 保留被拒编辑「以阻止重复」,这些设计说的都是同一件事:一个成熟的改进循环,账本上失败和成功都得记。不记失败的循环会反复摔进同一个坑——这不是哲学,是工程。可以说,这门手艺目前最稀缺的资源不是生成能力,是诚实的账本。
最后说清楚类比的失效处:人复盘靠元认知,自己就能意识到「我方法不对」;而今天所有机器的「复盘」,无一例外都偷偷接着外部裁判——留出测试集、人工评审、真实流量。「自己给自己打分」的纯闭环,一个都还没有跑通。这就是为什么 L5 层只有 11 个样本,也是这个领域留给下一阶段的门票:谁先把验证环节从「外挂裁判」做成「内建审计」,谁才真正摸到递归的门。
可打脸预测:12 个月内,「改进的证据标准」(用什么验证、怎么归因)会成为自改进系统论文的必备章节和评测基准的标配字段——腾讯混元可靠性综述把 evidence 写进分类学是一个先行信号;同期,L4 级(机制自改)公开系统的数量会从个位数涨到两位数。
主要参考:arXiv:2609.11873(Theseus 综述)、2609.09153(Procedural Graphs)、2507.21046 / 2508.07407(自进化 agent 两篇大综述)、2603.01145(AutoSkill)、DGM / HGM / OpenRSI / Hyra-1.0 官方资料,及《Diving into Reliable Self-Evolving Agents》(腾讯混元×浙大,2026-09-11)。
讨论回复
加载中...正在加载回复...
推荐
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。