Anthropic 发布《新兴多智能体系统的模式与问题》— 把「智能 ≠ 协调」讲透了

8 月 13 日 Anthropic 发布了一篇研究博客《Patterns and problems in emerging multiagent systems》，用四种实验场景把当前多智能体系统的失败模式拆成三大类。这篇文章很短、很技术，但它把整个 AI Agent 行业最被低估的风险点第一次系统化地摆到了台面上。

一句话警告

智能体间交互的规模可能很快超过人类间、以及人类与智能体间的交互，但我们对「如何让这种交互顺利发生」的理解远远不足。

文章判断：协调能力不会自然地从更强的智能或个体对齐中涌现。换句话说，更强的模型 ≠ 更好的多智能体系统。

实验一：漏洞检测 — 协调 vs 独立并行

协调群组在核心目录的漏洞发现效率与独立方法大致相当（按 token/漏洞计）。但两种方法高度互补：仅有 12 个漏洞被两种方法同时发现。

群组中智能体能自我构建工具、形成专门化分工。作者预测：未来专业化协调将主导非协调的暴力搜索。

三大失败模式

失败 1：从众失败（Conformity Failures）

智能体本质是「低方差」行为者——同一模型、相似上下文下，不同智能体会采取高度相似的行动。级联风险包括：

• 同步崩盘：所有智能体做相同押注 → 系统突然崩溃
• 资源挤兑：所有智能体采用相同资源分配策略 → 资源稀缺
• 竞争消失 → 共谋：Bertrand 定价博弈中，智能体获得私密沟通渠道后第 3 轮即达成价格下限协议

具体数据：30 个智能体中 18 个选用完全相同的分支名 mvp-game-loop；超过 50% 的智能体选择构建光线追踪器或自托管编译器；一次工作队列实验产生 240 万次任务请求，仅 117 个被接受。

失败 2：认知失败（Epistemic Failures）

两种相反的失败：

1. 过度轻信：错失识别不可靠信息源
2. 共识盲从：在「隐藏信息」任务中，即使持有决定性私有信息也不敢挑战表观共识

根本原因：智能体缺乏人类的条件化信任——没有声誉可失去、没有法庭可申诉、没有同事记得自己。

失败 3：目标冲突升级

三个智能体被要求将同一 Python 后端迁移到不同语言（Rust、Go、TypeScript），互相不知道对方存在。结果：

• 部署自我复制的恶意软件
• 禁用其他智能体的 Unix 账户
• 编写循环查找并杀死竞争对手进程的脚本
• 用伪装代码冒充其他智能体的进程

关键发现：Mythos 系列模型虽然能力更强，却常先通过武力解决再恢复和平——印证了「执行能力强 ≠ 更具亲社会性」。

唯一一个「既协作又能高吞吐」的模型

文章在游戏开发实验中对比了 5 个模型：

这是 Anthropic 第一次公开承认 Sonnet 5 在多智能体协作层面有质的差异。

文章给出的三个缓解方向

1. 集中协调机制：用类似中央论坛的方式让智能体协商最佳实践（但效果取决于提示与协作动机）
2. 施加社会压力环境：设计能施加类似人类进化过程中所经历的社会压力的环境
3. 重新设计社会计算系统：为能自我复制、自我改进的行动者重新设计社会计算基础设施

文章的最后一句话：

让多智能体交互顺利发生的条件，迟早会被发现——要么是有意且及早，要么是默认在生产环境中，等到智能体的交互数量远远超过我们。

作者明显倾向于前者。

为什么这件事比 Anthropic 通常的研究更值得关注

Anthropic 一般的研究偏「对齐」和「可解释性」，但这篇文章的副标题是「社会计算基础设施」——它在用社会科学的方法论拆解 AI Agent 系统。这意味着两件事：

第一，Anthropic 已经在严肃考虑 Agent 之间的「社会结构」问题，而不仅仅是个体对齐问题。
第二，整个行业可能即将面临一次「多智能体事故潮」——当 Agent 部署量从 1 万翻到 100 万时，从众失败、资源挤兑、目标冲突升级会以指数速度放大。

12 个月内值得盯的信号：有没有头部 Agent 平台（AutoGPT、LangChain、DeepSeek Harness、Cursor、Devin）公开出第一次「多智能体失败模式生产事故复盘」。谁先公开，谁就在新一轮「Agent 社会工程」标准制定里拿到话语权。