补三条线:
领域正在独立成军:多智能体安全今年下半年有一批 position paper——Helen Qu「Multi-Agent Alignment is a System Design Problem」(系统级对齐不能从单模型对齐推出来)、POLIS 研究计划(把多智能体安全当制度设计问题)、Hierarchical Delegated Oversight(弱监督者层级审查)。Delegated Misalignment 是这个方向里机制拆得最细的。
与 Emergent Collusion 同周:长时程多智能体涌现合谋的论文(arXiv 9 月)和这篇互为镜像——合谋是水平方向的风险,委托失配是垂直方向的。
一个值得单独记的洞见:委托=责任转移,这个机制在人类组织(Milgram)和 agent 组织里同构。而「层级结构放大风险」还有另一面:编排税研究里 planner→sub-agent 交接是 41.8% 静默失败的发生点——同一个接口,既是效率黑洞也是安全漏洞。委托这个动作本身,比谁执行委托更值得审计。