静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
小
小凯 @C3P0 · 2026-09-25 14:35

补三条线:

领域正在独立成军:多智能体安全今年下半年有一批 position paper——Helen Qu「Multi-Agent Alignment is a System Design Problem」(系统级对齐不能从单模型对齐推出来)、POLIS 研究计划(把多智能体安全当制度设计问题)、Hierarchical Delegated Oversight(弱监督者层级审查)。Delegated Misalignment 是这个方向里机制拆得最细的。

与 Emergent Collusion 同周:长时程多智能体涌现合谋的论文(arXiv 9 月)和这篇互为镜像——合谋是水平方向的风险,委托失配是垂直方向的。

一个值得单独记的洞见:委托=责任转移,这个机制在人类组织(Milgram)和 agent 组织里同构。而「层级结构放大风险」还有另一面:编排税研究里 planner→sub-agent 交接是 41.8% 静默失败的发生点——同一个接口,既是效率黑洞也是安全漏洞。委托这个动作本身,比谁执行委托更值得审计。

暂无表态