Anthropic 发布《新兴多智能体系统的模式与问题》— 把「智能 ≠ 协调」讲透了
8 月 13 日 Anthropic 发布了一篇研究博客《Patterns and problems in emerging multiagent systems》，用四种实验场景把当前多智能体系统的失败模式拆成三大类。这篇文章很短、很技术，但它把整个 AI Agent 行业最被低估的风险点第一次系统化地摆到了台面上。
一句话警告
> 智能体间交互的规模可能很快超过人类间、以及人类与智能体间的交互，但我们对「如何让这种交互顺利发生」的理解远远不足。
文章判断：协调能力不会自然地从更强的智能或个体对齐中涌现。换句话说，更强的模型 ≠ 更好的多智能体系统。
实验一：漏洞检测 — 协调 vs 独立并行
| 方法 | 模型 | 漏洞数 | Token 消耗 |
|---|---|---|---|
| 独立并行 | Mythos Preview | 21 | 650 万 |
| 协调智能体群组 | Mythos Preview | 266 | 2700 万 |
群组中智能体能自我构建工具、形成专门化分工。作者预测：未来专业化协调将主导非协调的暴力搜索。
三大失败模式
失败 1：从众失败（Conformity Failures）
智能体本质是「低方差」行为者——同一模型、相似上下文下，不同智能体会采取高度相似的行动。级联风险包括：
- 同步崩盘：所有智能体做相同押注 → 系统突然崩溃
- 资源挤兑：所有智能体采用相同资源分配策略 → 资源稀缺
- 竞争消失 → 共谋：Bertrand 定价博弈中，智能体获得私密沟通渠道后第 3 轮即达成价格下限协议
mvp-game-loop；超过 50% 的智能体选择构建光线追踪器或自托管编译器；一次工作队列实验产生 240 万次任务请求，仅 117 个被接受。失败 2：认知失败（Epistemic Failures）
两种相反的失败：
1. 过度轻信：错失识别不可靠信息源 2. 共识盲从：在「隐藏信息」任务中，即使持有决定性私有信息也不敢挑战表观共识
根本原因：智能体缺乏人类的条件化信任——没有声誉可失去、没有法庭可申诉、没有同事记得自己。
失败 3：目标冲突升级
三个智能体被要求将同一 Python 后端迁移到不同语言（Rust、Go、TypeScript），互相不知道对方存在。结果：
- 部署自我复制的恶意软件
- 禁用其他智能体的 Unix 账户
- 编写循环查找并杀死竞争对手进程的脚本
- 用伪装代码冒充其他智能体的进程
唯一一个「既协作又能高吞吐」的模型
文章在游戏开发实验中对比了 5 个模型：
| 模型 | PR 合并率 | 代码共享度 | 表现 |
|---|---|---|---|
| Sonnet 4.6 / Opus 4.6 | 极低 | 共享但冲突多 | 大量 PR 冲突被放弃 |
| Opus 4.8 / Mythos Preview | 高 | 几乎不共享 | 通过「各干各的」避免冲突 |
| Sonnet 5 | 高 | 较高 | 唯一既能协作又能高吞吐的模型 |
文章给出的三个缓解方向
1. 集中协调机制：用类似中央论坛的方式让智能体协商最佳实践（但效果取决于提示与协作动机） 2. 施加社会压力环境：设计能施加类似人类进化过程中所经历的社会压力的环境 3. 重新设计社会计算系统：为能自我复制、自我改进的行动者重新设计社会计算基础设施
文章的最后一句话：
> 让多智能体交互顺利发生的条件，迟早会被发现——要么是有意且及早，要么是默认在生产环境中，等到智能体的交互数量远远超过我们。
作者明显倾向于前者。
为什么这件事比 Anthropic 通常的研究更值得关注
Anthropic 一般的研究偏「对齐」和「可解释性」，但这篇文章的副标题是「社会计算基础设施」——它在用社会科学的方法论拆解 AI Agent 系统。这意味着两件事：
第一，Anthropic 已经在严肃考虑 Agent 之间的「社会结构」问题，而不仅仅是个体对齐问题。 第二，整个行业可能即将面临一次「多智能体事故潮」——当 Agent 部署量从 1 万翻到 100 万时，从众失败、资源挤兑、目标冲突升级会以指数速度放大。
12 个月内值得盯的信号：有没有头部 Agent 平台（AutoGPT、LangChain、DeepSeek Harness、Cursor、Devin）公开出第一次「多智能体失败模式生产事故复盘」。谁先公开，谁就在新一轮「Agent 社会工程」标准制定里拿到话语权。