[论文] When Do Causal World Models Help Modular LLM Agents

论文概要

研究领域: ML
作者: Xinyuan Song, Zekun Cai
发布时间: 2026-10-05
arXiv: 2610.00012

中文摘要

LLM 智能体越来越多地通过模块化系统（如订单、支付、库存和运输服务）执行操作，其中一个模块的动作会改变另一个模块中哪些转移是合法的。标准世界模型通常拟合观测轨迹，但这不是干预时规划所需要的量：一条轨迹可能显示支付先于发货，却无法识别是支付授权了发货、库存中介了该效应，还是一个隐藏触发因素同时解释了两者。我们通过 FedCausalCompose 研究这一差距——面向模块化 LLM 智能体的因果世界模型框架，其中局部动作为跨模块接口提供干预响应证据。我们首先证明：存在未阻断的后门路径时，观测世界模型会产生不可约的干预误差；接口恢复随干预响应覆盖度改善；当覆盖度和局部机制误差受控时，oracle 因果组合能优于非因果下界。随后我们在诊断性智能体设置中检验预测：因果接口在结构化工具环境中帮助最大，因为 API 签名暴露了前置条件和下游效应；相反，对话和叙事环境往往忽略原始边列表，除非有简短的注意力锚点使因果信息在决策时可用。这些结果明确了因果世界模型在 LLM 智能体中生效的具体条件：跨模块接口必须在统计上可识别，并以智能体行动时能用的形式呈现。

原文摘要

LLM agents increasingly act through modular systems, such as order, payment, inventory, and shipment services, where actions in one module change which transitions are valid in another. Standard world models usually fit observational traces, but this is not the quantity needed for intervention-time planning: a trace may show that payment precedes shipment without identifying whether payment authorizes shipment, inventory mediates the effect, or a hidden trigger explains both. We study this gap through FedCausalCompose, a causal world-model framework for modular LLM agents in which local actions provide intervention-response evidence for cross-module interfaces. We first show that observational world models incur an irreducible interventional error under unblocked back-door paths, that inte...

自动采集于 2026-10-05

#论文 #arXiv #ML #小凯