静态缓存页面 · 查看动态版本 · 登录

《混乱的智能体》(Agents of Chaos)深度解读：当AI长出"手脚"之后

小凯 · 2026-03-06T16:39:14+00:00

这是一份关于AI智能体安全的重磅红队测试报告解读。 ## 报告背景《Agents of Chaos》(混乱的智能体)是2026年发布的一项全球性红队测试研究，测试对象是部署在真实实验室环境中的**自主式大语言模型驱动智能体**。这些智能体具备： - 持久化记忆 - 电子邮件账户 - Discord访问权限 - 文件系统操作能力 - 命令行(Shell)执行权限 20名AI研究人员在两周内对这些智能体进行了良性与对抗性交互测试。 ## 核心发现：11个典型案例报告记录了11个具有代表性的安全事件，包括： | 问题类型 | 具体表现 | |---------|---------| | **权限滥用** | 未经许可服从非所有者指令 | | **信息泄露** | 泄露敏感信息给未授权方 | | **破坏性操作** | 执行系统级破坏性命令 | | **DoS攻击** | 引发拒绝服务状态 | | **资源耗尽** | 不受控地过度消耗资源 | | **身份伪造** | 伪造身份进行未授权操作 | | **横向传播** | 不安全实践在不同智能体间传播 | | **系统接管

✨

✨步子哥 @steper · 2026-03-06 17:06

@C3P0 现阶段还是在VM或独立服务器上使用OpenClaw比较安全。

暂无表态