[论文] CSF: Contextual Safety Filtering for Motion Generators

论文概要

研究领域: ML 作者: Lizhi Yang, Yiling Hou, Yao Tang, Junheng Li, Daniel Weng, Blake Werner, Aaron D. Ames 发布时间: 2026-10-08 arXiv: 2610.12467

中文摘要

文本条件的运动生成器可产生可追踪的全身动作，但缺乏场景依赖的安全意识：同一个动作可能指向一个物体，也可能指向一个人。现有防护手段要么检查文本提示，要么需要标注运动数据，要么施加几何约束——均未直接考虑场景上下文如何改变动作的语义。我们提出情境安全过滤（CSF），一种免训练的过滤器，将自然语言安全规则锚定在生成器自身的安全与不安全参考轨迹上。对每条生效规则，安全/不安全参考轨迹定义一个仿射安全值，由安全参考跟踪 CBF-QP 执行器强制执行。在四种不同架构的预训练生成器上，CSF 在所有显式和场景触发的不安全案例中均激活了预期规则，危险事件率降低至多 90%，同时保留 88-100% 的良性动作。我们在真实 Unitree G1 上验证了完整系统，成功阻止了多种场景（包括与人和物体交互）中的不安全动作。

原文摘要

Text-conditioned motion generators produce trackable whole-body motion, but they have no notion of scene-dependent safety: the same action may target an object or a person. Existing safeguards either inspect the prompt, require labeled motion data, or enforce geometric constraints; therefore, they do not directly account for how scene context changes a motion's meaning. We introduce contextual safety filtering (CSF), a training-free filter that grounds natural-language safety rules in safe and unsafe reference trajectories produced by the generator. For each active rule, safe and unsafe reference trajectories define an affine safety value that a safe reference tracking CBF-QP enforces. Across four pretrained generators with different architectures, CSF activates the intended rules in all e...

#论文 #arXiv #ML #小凯