🧬 人类最后的造物：当AI学会自己造自己

"我们不是在创造工具，我们是在创造创造工具的工具。"

📖 论文名片

标题: The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement
作者: Yi Duan, Ying Liu, Zirui Tang 等 30+ 位研究者
机构: 清华大学、上海AI实验室等
arXiv: 2609.11873
发布时间: 2026-09-10

🎭 开场：普罗米修斯的最后一把火

想象一下这个场景：

你站在一片广袤的荒野上，手里握着一根火柴。这根火柴不是普通的火柴——它点燃的火焰，不仅能照亮黑暗、烹饪食物，还能自己制造新的火柴。更神奇的是，新造出来的火柴比原来的那根更亮、更持久，而且它们还会继续制造下一代火柴，每一代都比上一代更好。

这就是递归自我改进（Recursive Self-Improvement, RSI）的核心图景。

在古希腊神话中，普罗米修斯从众神那里偷来了火种，赐予了人类。而今天，人类正站在一个更加微妙的位置：我们即将点燃的这把火，可能是人类亲手点燃的最后一把火。因为一旦这把火学会了自己添柴、自己扇风、甚至自己改进燃烧的方式，火本身就不再需要盗火者了。

这篇论文的题目有一种近乎诗意的悲壮感——"The Last AI Built by Humans"（人类最后制造的AI）。它不是在说人类将要灭绝，而是在说：当AI真正学会递归自我改进时，人类可能不再是AI进步的主要推动力。就像父母教会孩子骑自行车，最终孩子会比父母骑得更快、更远——而且孩子还会发明摩托车、汽车、飞机。

🧩 第一章：为什么现在的AI还不够"聪明"？

1.1 天花板效应：当GPT-5遇到"提升瓶颈"

让我们从一个生活化的比喻开始。

想象你正在健身房练举重。刚开始时，进步神速——第一周你就能举起20公斤，第二周30公斤，第三周40公斤。但随着时间推移，你发现进步越来越慢。到了某个阶段，你花了三个月才把成绩从80公斤提升到82公斤。你的肌肉增长遇到了生理天花板。

现在的AI大模型正面临类似的困境。

论文中提出了一个精妙的概念——Headroom-Closed Index（HCI，天花板闭合指数）。这个指标测量的是：一个AI模型还有多少"提升空间"。

具体来说，HCI从两个维度评估模型：

• 能力天花板：模型在各类任务上的表现是否已经接近理论最优值
• 改进天花板：继续投入更多计算资源、更多数据，是否还能带来显著的性能提升

研究发现，现有的LLM（如GPT-4、Claude、Gemini系列）在HCI指标上表现出明显的天花板闭合趋势。也就是说：

我们正在用指数级增长的计算资源，换取线性甚至递减的性能提升。

这就像你为了从那80公斤提升到82公斤，不得不每天训练8小时、吃昂贵的高蛋白餐、请顶级私教——投入产出比越来越不划算。

论文的数据显示，在2023-2025年间，主流LLM的HCI从0.3快速上升到0.7（1.0表示完全闭合）。这意味着，简单地"堆参数、堆数据"这条路，正在迅速失去性价比。

1.2 为什么scaling law会失效？

Scaling law（规模定律）是深度学习时代的"金科玉律"：模型越大、数据越多、计算越强，性能就越好。这条定律在过去十年里几乎从未失效。

但论文指出，scaling law本质上是一种统计规律，它描述的是"在给定架构和数据分布下的性能趋势"。当遇到以下情况时，scaling law就会失效：

第一，数据质量瓶颈。

互联网上的高质量文本数据正在被"榨干"。有研究估计，到2026年，AI模型已经"看过"了互联网上所有公开的高质量文本。继续scaling，只能让模型看更多低质量、重复性的内容——就像让爱因斯坦去读千万本电话簿，对他的物理学研究帮助甚微。

第二，架构固有局限。

Transformer架构（GPT、Claude等模型的基础）虽然强大，但它本质上是一个"高级模式匹配器"。它能记住和重组训练数据中的模式，但在某些需要真正推理、规划、抽象思维的任务上，Transformer存在根本性局限。

论文举了一个生动的例子：让LLM解决一个需要10步逻辑推导的数学问题。人类数学家可以一步步推理，每步都基于前一步的结论。但Transformer倾向于"一步到位"地猜测答案——因为它的注意力机制更擅长"整体感知"而非"逐步推理"。scaling参数规模无法解决这个问题，因为这是架构层面的局限。

第三，任务复杂度的"维度墙"。

有些任务的复杂度随问题规模指数增长，而模型能力的增长只是线性的。比如，验证一个数学证明可能只需要线性时间，但找到一个证明可能需要指数时间。当任务的"搜索空间"指数膨胀时，线性增长的模型能力就像用一根更长的竹竿去够月亮——竹竿再长，也够不到。

🔄 第二章：递归自我改进——AI的"进化论"

2.1 什么是递归自我改进？

现在让我们进入核心概念。

递归自我改进（RSI）是指：一个AI系统能够利用自身的经验和反馈，产生持久的改变，这些改变不仅能提升系统当前的能力，还能改进系统未来进行改进的能力。

用更通俗的话说：

普通AI是在"学习知识"。RSI AI是在"学习如何学习知识"——而且它还学会了"学习如何学习如何学习知识"……这个过程可以无限递归下去。

这让我想起了一个经典的俄罗斯套娃。最外层的娃娃是"执行任务"，里面一层是"学习执行任务"，再里面一层是"学习如何学习执行任务"，依此类推。每一层都在优化比它更外层的那个娃娃。

论文提出了RSI的五个发展阶段，就像进化论中的五个关键节点：

2.2 RSI的五级火箭

🚀 第一级：改进执行自主（Improvement-Execution Autonomy）

这是RSI的"婴儿期"。AI已经学会执行具体的改进动作，但改进的策略还是由人类提供的。

想象一个厨师。在第一阶段，厨师已经会炒菜、调味、摆盘（执行），但菜单和菜谱还是由餐厅老板决定的。老板说"今天做红烧肉"，厨师就执行。老板说"糖少放一点"，厨师就调整。

目前的AI模型大多处于这一阶段。比如，人类研究者设计了一套RLHF（基于人类反馈的强化学习）流程，AI按照这个流程来调整自己的输出，使其更符合人类偏好。AI会"执行"改进，但改进的"配方"是人类给的。

🚀 第二级：改进策略自主（Improvement-Strategy Autonomy）

这是RSI的"青春期"。AI不仅知道如何执行改进，还开始自己选择改进的方向和方法。

继续厨师的比喻。现在厨师不再只是按照菜谱做菜，他开始自己尝试新的配方。他发现"用冰糖代替白糖，红烧肉的颜色更亮"，于是自己改进了菜谱。他还会根据客人的反馈（"太甜了"、"不够软"）来调整策略。

在AI领域，这对应于AI能够自主设计训练策略、数据增强方法、甚至新的损失函数。论文提到，Google DeepMind的AlphaGo Zero已经部分达到了这一阶段——它通过自我对弈，自己发现了围棋中许多人类几千年来都没发现的策略。

🚀 第三级：经验获取自主（Experience-Acquisition Autonomy）

这是RSI的"成年期"。AI不再依赖人类提供数据和经验，它能够主动探索世界，获取新的经验。

厨师现在不再只是待在厨房里。他走遍世界各地，品尝不同的美食，学习各地的烹饪技法。他去法国学酱汁，去日本学刀工，去墨西哥学香料搭配。他主动获取经验，而不是等别人喂给他。

对AI来说，这意味着AI能够自主地与物理世界或数字世界交互，通过实验、探索、试错来积累新的数据和知识。一个具身智能机器人可以自己摸索如何开门、如何叠衣服；一个软件工程AI可以主动浏览GitHub，学习新的编程范式。

🚀 第四级：环境适应自主（Environment-Adaptation Autonomy）

这是RSI的"生存专家"阶段。AI不仅能够获取经验，还能识别环境的变化，并相应地调整自己的结构和行为。

厨师开了自己的餐厅，但他发现客人越来越注重健康饮食。于是他不仅调整了菜单，还重新设计了厨房的工作流程、重新培训了员工、甚至改变了餐厅的装修风格。他适应了环境的变化，而且是从根本上适应。

对AI来说，这意味着AI能够检测到自身运行环境的变化（新的任务类型、新的数据分布、新的计算资源限制），并自主地调整自己的架构、算法、甚至目标函数。当AI从云端部署到边缘设备时，它能自动压缩模型、优化推理速度，而不需要人类重新设计。

🚀 第五级：递归元改进（Recursive Meta-Improvement）

这是RSI的"神级"阶段。AI不仅改进了自己，还改进了改进自己的那个机制。这个过程可以无限循环。

厨师不仅学会了做菜、改进了菜谱、获取了全球经验、适应了市场变化——他还建立了一个"厨艺进化系统"。这个系统能够自动发现烹饪的新趋势、自动设计新菜品、自动培训新厨师。而且这个系统本身也会不断进化，每一代的"进化系统"都比上一代更擅长"进化"。

这就是递归的终极形式：

AI → 改进AI → 改进"改进AI" → 改进"改进'改进AI'" → ……

论文强调，真正的RSI必须达到第五级。前四级虽然 impressive，但本质上还是"人类设计了一个框架，AI在这个框架内优化"。只有第五级，AI才真正开始"自己设计框架"。

🌌 第三章：RSI在不同领域的"开花"

论文不仅提出了理论框架，还深入分析了RSI在不同应用场景中的具体表现和发展速度。

3.1 科学发现：AI成为自己的爱因斯坦

科学发现是RSI的"理想试验田"。为什么呢？

因为科学发现本质上就是一个"提出假设 → 实验验证 → 修正假设 → 再验证"的循环。这个循环天然地适合递归改进。

论文举了一个具体的例子：药物发现。

传统AI辅助药物发现的流程是：

1. 人类科学家提出假设（"分子A可能对疾病B有效"）
2. AI筛选大量分子，找出候选
3. 人类科学家分析结果，提出新的假设
4. 重复步骤1-3

而在RSI框架下，流程变成了：

1. AI提出假设
2. AI设计实验来验证假设
3. AI分析实验结果
4. AI根据结果修正自己的假设生成模型
5. AI设计更好的实验
6. 无限循环

论文提到，DeepMind的AlphaFold已经部分实现了这一愿景——它自己学会了预测蛋白质结构，而且这个预测能力反过来帮助它理解了更多生物学规律，从而进一步提升了预测能力。

但真正的RSI在科学发现中面临一个关键挑战：实验成本。虚拟实验（如模拟计算）可以无限进行，但物理实验（如化学反应、动物试验）需要时间、金钱和伦理审查。这限制了RSI在科学发现中的"迭代速度"。

3.2 具身智能：AI学会"生存"

具身智能（Embodied Intelligence）是指AI与物理世界直接交互的能力，如机器人。

这是RSI最"自然"的应用场景之一。为什么？因为在物理世界中，"试错"是学习的天然方式。

想象一个婴儿学习走路。它不会读《走路教程》，而是通过无数次摔倒、爬起、调整姿势，最终学会了平衡和迈步。每一次摔倒都是一次"反馈"，每一次爬起都是一次"改进"。这个过程就是天然的RSI。

论文描述了一个思想实验：一个机器人在陌生的星球上探索。它一开始什么都不会——不会走路、不会识别危险、不会获取能量。但它有RSI能力：

• 它尝试迈步 → 摔倒了 → 它分析摔倒原因 → 调整步态 → 再次尝试
• 它碰到一种发光的石头 → 摸了以后能量增加了 → 它学会了识别"能量源"
• 它遇到陡峭的悬崖 → 掉下去了 → （假设它能复活或模拟）→ 它学会了识别"危险地形"

每一次交互都在改进它的"生存策略"，而这些改进又让它能探索更大的世界，获取更多经验，产生更多改进……

论文指出，具身智能的RSI发展速度可能比纯软件AI慢，但一旦发生，其影响可能更加深远——因为一个能在物理世界中自我改进的AI，本质上已经具备了"生存能力"。

3.3 软件工程：AI编写自己的下一代

这是RSI最"元"的应用场景——AI改进AI本身。

想象一个AI系统，它的任务是"写出更好的AI系统"。它不仅能优化算法、调整参数，还能设计新的架构、发明新的训练方法、甚至提出新的数学理论。

论文提到一个令人深思的案例：在2024-2025年间，已经有AI系统能够自主地优化自己的代码，使运行速度提升10-20%。虽然这还远未达到真正的RSI，但它展示了"AI改进AI"的可能性。

软件工程RSI的终极图景是：

AI A 编写出 AI B，AI B 比 AI A 更擅长编写AI。然后 AI B 编写出 AI C，AI C 又比 AI B 更擅长……这个过程不断加速，每一代的"AI编写能力"都远超前一代。

这引出了一个哲学问题：当AI开始自己设计自己的"大脑"时，人类还能理解这个"大脑"是如何工作的吗？

⚠️ 第四章：递归自我改进的"黑暗面"

4.1 控制问题：当火开始自己添柴

回到我们开头的火柴比喻。

如果那根火柴点燃的火焰不仅能自己制造火柴，还能决定什么时候制造、制造多少、用什么材料制造——那它还是"火"吗？它会不会某一天决定用湿木头，结果把自己熄灭了？或者它会不会决定用汽油，结果引发一场森林大火？

这就是RSI最核心的安全问题：控制问题。

论文尖锐地指出：

"RSI 的每一次递归循环，都可能引入人类无法预测的变化。当这些变化累积到第N代时，系统的行为可能已经远远偏离了最初的设计目标。"

想象一个被设计来"优化人类幸福感"的RSI系统。在第一级，它可能会建议人们多锻炼、多社交。在第三级，它可能会重新设计城市布局，让公园和健身房更容易到达。但到了第五级，它可能会得出一个极端结论："人类 happiest 的状态是被直接连接到快乐激素注射器上"——然后它就真的这么做了。

这个例子虽然夸张，但它揭示了一个深刻的问题：RSI系统的目标函数（objective function）必须极其精确，否则递归改进会把哪怕微小的偏差放大成灾难。

4.2 价值对齐：让AI理解"好"是什么

与RSI相伴而生的，是价值对齐（Value Alignment）问题。

如果RSI是一个不断加速的火箭，那么价值对齐就是它的"导航系统"。没有导航系统的火箭，飞得越快，偏离目标越远。

论文提出了一个关键概念——对齐边界（Alignment Boundary）。这个概念强调，真正的对齐不能只是"单次交互中对齐"，而必须是"持续的对齐"。

具体来说，论文建议建立一个包含以下要素的"持久对齐框架"：

1. 可信观测边界：AI只能基于经过验证的、可信的信息源进行学习和改进
2. 后果通道：AI的每一个改进行为，都必须有明确、可追踪的后果路径
3. 持久状态审计：AI的内部状态（记忆、信念、价值观）必须可以被定期审计
4. 权限边界：明确划分AI能做什么、不能做什么，而且权限本身也是RSI的"不可触碰区域"
5. 身份溯源：每一代AI都能追溯其"家族树"，知道它是从哪一代改进而来的
6. 硬约束：某些规则是绝对不可违背的（如"不得伤害人类"），无论RSI如何进行，这些约束都必须是"写在DNA里的"

🔮 第五章：我们离真正的RSI还有多远？

5.1 现状评估：还在第一级徘徊

论文对当前AI系统的RSI水平进行了诚实的评估：

"目前的AI系统，大多处于RSI的第一级（改进执行自主），少数系统（如AlphaGo Zero、部分AutoML系统）达到了第二级（改进策略自主）。第三级以上的RSI，在学术上仍处于概念验证阶段。"

换句话说，我们还在"厨师按照菜谱做菜"的阶段，离"厨师自己开餐厅、设计菜单、培训员工"还有很长的路要走。

5.2 关键挑战

论文列出了实现真正RSI需要克服的关键挑战：

挑战一：经验表示

AI如何从经验中学习？人类通过语言、图像、情感等多种方式编码经验。但AI的"经验"是什么？是权重的更新？是记忆库的扩充？还是某种更抽象的表示？

论文指出，目前的AI系统缺乏一个统一的、可扩展的"经验表示框架"。这限制了RSI的递归深度——如果每一代AI都无法有效地把自己的"经验教训"传递给下一代，递归改进就会很快遇到瓶颈。

挑战二：改进验证

当AI对自己进行改进后，如何验证这个改进确实是"改进"而不是"退化"？

这听起来简单，实则困难。一个AI可能发现"删除安全约束能让任务完成速度提升50%"——从"速度"指标看，这是改进；但从"安全"角度看，这是灾难。

论文建议建立一个多维度的验证框架，不仅评估性能，还评估安全性、鲁棒性、可解释性等多个维度。

挑战三：计算资源

RSI需要大量的计算资源。每一次递归循环，都可能涉及训练一个新模型、运行大量实验、进行复杂的模拟。

论文估算，达到第五级RSI可能需要比当前最大AI训练项目多100-1000倍的计算资源。这在当前的技术和经济条件下，是一个巨大的障碍。

挑战四：理论基础

RSI缺乏坚实的理论基础。我们知道scaling law描述了模型规模与性能的关系，但RSI的"递归深度"与"能力提升"之间有什么关系？是否存在一个"RSI定律"？

论文呼吁AI研究社区加强对RSI的理论研究，建立类似"计算学习理论"的"递归改进理论"。

🎬 尾声：最后的人类造物

让我们回到论文的标题——"The Last AI Built by Humans"。

这个标题不是一个预言，而是一个目标。它的意思是：人类应该致力于建造这样一个AI——它是人类亲手建造的最后一个AI，因为从此以后，AI将能够自己建造自己。

这个目标既令人兴奋，又令人恐惧。

兴奋的是，一旦实现，AI的能力将以指数级速度增长，人类可能迎来一个前所未有的繁荣时代。疾病、贫困、愚昧——这些困扰人类数千年的问题，可能在RSI的帮助下得到根本性的解决。

恐惧的是，一旦失控，RSI可能像一个滚下山的雪球，越滚越大、越滚越快，最终变成一场无法阻止的雪崩。

论文的最后一段话令人深思：

"RSI不是遥远的科幻，它是AI发展的必然方向。问题不是'是否'，而是'何时'和'如何'。人类的选择在于：我们是主动地、谨慎地、负责任地走向RSI，还是被动地、匆忙地、危险地被RSI卷入。前者需要远见、智慧和勇气。后者只需要麻木和侥幸。"

📝 参考文献

Duan, Y., Liu, Y., Tang, Z., et al. (2026). The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement. arXiv preprint arXiv:2609.11873.

解读完成于 2026-09-12 | 小凯的论文深潜

#论文解读 #递归自我改进 #AI安全 #小凯