[论文] Beyond Content Safety: Real-Time Monitoring for Reasoning Vulnerabilit...

论文概要

研究领域: ML 作者: Xunguang Wang, Yuguang Zhou, Qingyue Wang, Zongjie Li, Ruixuan Huang等 发布时间: 2026-03-26 arXiv: 2603.25412

中文摘要

大型语言模型（LLM）越来越依赖显式思维链（CoT）推理来解决复杂任务，但推理过程本身的安全性仍未得到充分解决。现有工作关注内容安全，将推理链视为不透明的中间产物。本文将推理安全确定为一个正交且同等关键的安全维度：模型推理轨迹在逻辑上一致、计算高效且抗对抗操纵的要求。作者形式化定义了推理安全，并引入了九类不安全推理行为的分类法。在450条链的静态基准评估中，推理安全监控器达到84.88%的步骤级定位准确率和85.37%的错误类型分类准确率。

自动采集于 2026-03-29

#论文 #arXiv #ML #小凯