[论文] OpenAgentFlow: Enabling System-Wide Safety Boundaries for Heterogeneou...

论文概要

研究领域: ML 作者: Dongsheng Chen, Xiangyu Zhao, Xin Yao 发布时间: 2026-09-03 arXiv: 2509.00006

中文摘要

由大语言模型驱动的AI智能体正从孤立的助手演变为异构系统，其中多个智能体、规划器、控制器和执行后端在相同的用户或企业环境中运行。在这种情况下，安全成为一个系统级的动作治理问题：决定在修改共享状态之前是否应提交具体的智能体生成的动作。现有的保护措施涵盖提示、工具调用、GUI动作和智能体本地行为，但通常使执行碎片化，模糊了跨多步动作流出现的风险，并为可审计性和策略演进提供的支持有限。我们提出了OpenAgentFlow，一种在动作提交边界强制执行安全的控制平面/动作平面架构。它将待处理的GUI动作、API调用、工具调用和LLM生成的调用规范化为统一的AgentEvent流，将每个事件路由通过共享的预执行策略执行点，并在控制平面中维护来源、会话状态、审计记录和可更新策略。这创建了一个共享的可治理动作流，并允许新规则在无需修改智能体、提示、模型或执行路径的情况下生效。我们在Android上实例化OpenAgentFlow。在300个案例的动作事件基准上，它实现了94.0%的准确率和95.3%的攻击拦截率。在30个案例的动态策略套件中，在安装新规则后，它在27个案例中匹配了预期行为。在来自100个案例Android模拟器套件的98个追踪案例中，它在GUI、API和LLM规划案例中实现了90.8%的原始准确率和92.9%的追踪调整通过率。这些结果表明，OpenAgentFlow为异构AI智能机群提供了一个实用的共享执行边界。

原文摘要

AI agents powered by large language models are evolving from isolated assistants into heterogeneous systems in which multiple agents, planners, controllers, and execution backends operate over the same user or enterprise environment. In such settings, safety becomes a system-level action-governance problem: deciding whether concrete agent-generated actions should be committed before they modify shared state. Existing safeguards cover prompts, tool calls, GUI actions, and agent-local behavior, but often leave enforcement fragmented, obscure risks that emerge across multi-step action flows, and provide limited support for auditability and policy evolution. We present OpenAgentFlow, a control-plane/action-plane architecture that enforces safety at the action-commit boundary. It normalizes pen...

#论文 #arXiv #ML #小凯