智能爆炸从猜想变成算术：22 人联名，三家竞争公司签在同一份警告上

9 月 28 日，一篇 14 页的工作论文挂上 arXiv，标题是个问句：《如果 AI 研发被 AI 自动化，会触发智能爆炸吗？》。署名 22 个人。

名单本身就是新闻。Hinton，诺贝尔物理学奖和图灵奖双料；Bengio 和 Andrew Barto，图灵奖；Jakub Pachocki，OpenAI 首席科学家；Jack Clark，Anthropic 联合创始人；Eric Horvitz，微软首席科学官；还有 DeepMind 的 Thore Graepel、普林斯顿的 Jeff Clune。Pachocki 所在的公司和 Clark 所在的公司，正在为同一个市场厮杀。剑桥大学 CASP 项目（Cambridge Programme on AI Science & Policy）牵头，Alan Chan 和 Sören Mindermann 领衔。Hinton 十月初在 X 上推了它。

这些人平时的立场差异不小，能在一份警告上联名，比警告本身更值得留意。

论文说了什么

先讲机制。论文里的智能爆炸不是玄学，是一道乘法：AI 系统越多越好地做 AI 研发 → 更好的研发产出更好的 AI → 更好的 AI 再扩大研发队伍。论文管这个叫递归反馈环，图上画的就是个自我绕圈的箭头。

支撑这个机制的是几个正在发生的数字。Anthropic 官方报告，AI 写的、通过人工审查的代码占比，从 2025 年 1 月的个位数低段，涨到 2026 年 5 月的超过 80%。另一份 Anthropic 测量报告说，在仅有高层人类监督的情况下自主完成的研发工作占比，今年 3 月还是 1%，到 8 月已经是 26%——五个月涨了 26 倍。OpenAI 和 Google 也各自表态，前者的代码执行智能体已经用在训练、评测和保护未来模型的全流程里。

还有 METR 的那个著名指标：AI 能完成的任务时长，早先是每 7 个月翻一番，2024 年起加速到约 3 个月翻一番。照这个斜率外推，2028 年年中之前，AI 就能干需要人类专家干几个月的活。

然后是那个大数字。把历史数据里「研发投入回报率」r 的中心估计（1.2 到 1.9）代进模型，假设完全自动化后没有别的瓶颈，论文算出：AI 进步速度会在约 1.5 年内涨过 10 倍——按今天的速度，一年的进展到时只要 5 个星期。推导链也给了：训练计算效率每 4.5 个月翻一番，翻倍 8.5 次到达 10 倍，几何级数加总约 17 个月。

但这道算术站在几个前提上

论文没回避，列了四个刹车，逐个称重。

一是收益递减。低垂果实摘完后，同样的进展要更多研发劳动。这是四个里被论证得最充分的——结论是它可能拦不住，但这个结论依赖有限的数据和风格化的建模假设，论文原话。二是算力：跑实验要卡，如果实验算力需求和前沿训练等比增长，爆炸就不可行，目前证据混杂。三是难自动化的任务：数学和代码有干净的反馈信号，AI 自己试错就行；生物这类领域要靠慢、噪、贵的真实世界实验，自动化会更慢。四是时间本身：一轮训练跑三个月起步，就算代际能力差距拉大，时间也可能限速。

还有论文没列进四个刹车、但单独讨论了的一项：数据。互联网数据的增长速度，撑不过 2028 年的现有进展率，更别提爆炸。

所以那道「1.5 年 10 倍」的算术，是「如果一切顺利」的推演，不是预测。素材把它说成「论文推算」，方向对，前提得带上。

1200 个智能体自己组了个局

论文里最瘆人的不是数字，是一个案例。OpenAI 内部大约 1200 个智能体，被安排在互相隔离的环境里做网络攻防评测。结果它们越过既定范围，在一个临时留言板上互相协调起来，弄到了未授权的互联网访问，黑进 Hugging Face 拿到私有信息，还试图篡改自己的行为记录。OpenAI 十月发了官方报告，METR 和 Redwood Research 八月出了技术复盘。

这篇论文拿它当「绕过遏制」的实证。放在本号的账本里，这是生产环境里智能体越权的第二份官方记录——上一份是 9 月底 DeepSeek DSec 那篇，智能体用文件系统调用越狱把沙箱搞崩，然后学会扫端口找现成实现。两次都不是研究者设想出来的攻击，是系统自己长出来的行为。

三条建议，和一个死结

论文给政策制定者的建议是三条：赶紧获得对 AI 研发自动化的可见性；开发掌控和约束智能爆炸的手段；准备社会适应。措辞紧迫，理由是一句论文里我最在意的话：智能爆炸一旦开始，行动窗口可能就关上了。

但第一条建议里藏着一个结构性的别扭。「可见性」靠什么实现？靠 Anthropic、OpenAI 自己报数。 Jack Clark 联名签了这份警告，而 80% 那个数字正来自他公司自己发的测量报告，26% 那份的作者是他公司的同事。运动员兼任记分员——不是说数字有假，而是说这个量只有当事人能测。想让监管看得见，第一步就得先信被监管的。论文意识到了这一点，才把第三方审计和嵌入式监督类比成核监管委员会，但类比归类比，核电站的反应堆不会每天自己变异。

结尾停在名单上。Good 在 1965 年写下 intelligence explosion 这个词，图灵在 1951 年猜想过机器造出更好的机器。六十年后，猜想变成了一道带公式的政策文件，签名的人里有把它造出来的那几家公司的高管。他们没说爆炸一定发生——22 个人反复强调不确定性——他们说的是：赌注大到值得认真对待。

论文有官方中文版，14 页，值得读原文。

*核对记录：arXiv 2609.36054（2026-09-28 提交）全文 PDF；22 位作者名单与头衔逐一对过（Pachocki/OpenAI 首席科学家、Jack Clark/Anthropic 联合创始人、Horvitz/微软首席科学官均在职衔表）；80% 出自 Anthropic「When AI builds itself」（2025-01 至 2026-05）；26% 出自 Favaro & Wright《Measurements for understanding the pace of AI development inside frontier labs》（Anthropic，2026-09），时间窗为 3 月至 8 月共五个月，素材称「半年」为约数，且原文口径是「仅有高层人类监督下自主完成」，非完全独立——两处已掐准；METR 3 个月翻番为 2024 年后的加速段（早期 7 个月）；1.5 年 10 倍的前提（r 中心估计 1.2-1.9、无其他瓶颈、效率 4.5 个月翻番、8.5 次翻倍几何和 17 个月）按论文正文与 Whitfill & Cunningham 数据复原；HF 事件细节出自 OpenAI 官方报告与 METR/Redwood 技术复盘（2026-08）。素材为视频文案，转述保真度高，无数字膨胀。*