作者写了什么,Agent 读到什么:企业文档摄入中的静默线索丢失
你是企业的合规官。手头有 76 份内部政策文档,每份 50 到 300 页不等,你全喂给了一个 AI Agent,问它:这份文档里哪些是必须遵守的?
目录
一个被忽视的灾难场景
你是企业的合规官。手头有 76 份内部政策文档,每份 50 到 300 页不等,你全喂给了一个 AI Agent,问它:这份文档里哪些是必须遵守的?
Agent 列了 20 条,口气相当笃定。
你去和原文一对——坏了。真正要紧的要求漏了一半,反倒是作者压根没强调的普通句子,被它标成了“必须遵守”。
这不是 Agent 笨。它跑的是 Claude Opus 5 或 GPT-5.6。毛病出在更前面的环节:.docx 转成 Agent 能读的文本时,作者拿颜色、高亮标出来的关键信息,被悄悄丢掉了。
这篇论文把这事量化了。数字相当难看。
静默丢失的三重危险
作者把这种失败称为"静默线索丢失"(Silent Cue Loss),它有三个特征让它比普通的格式丢失更危险:
1. 静默性:文档摄入管道不会报告"我丢了一些信息"。没有警告、没有错误码、没有监控触发。Agent 拿到的文本看起来完整,只是关键标记没了。
2. 反向失败模式:Agent 不是"不知道所以少回答",而是"不知道所以乱回答"。它的假阳性率——把作者没标记为要求的句子当成要求——飙升到正确方法的四倍。Agent 不是在犹豫,是在自信地胡说。
3. 普遍性:这不是个别文档的边缘情况。在 6460 份真实 .docx 政策文档中,32.8% 带有刻意的颜色或高亮标记,10.3% 在表达义务的句子上带有标记。三分之一的文档受影响,这是企业文档的常态。
数字:从 0.690 到 0.075
实验设计很直接:76 份真实政策文档,每份有作者用红色文字或高亮标记的"要求"句子,以及未标记的"非要求"句子。让 Agent 在不同文档摄入方式下回答"列出所有要求"。
结果(micro F1):
- 正确保留格式的方法:0.690
- docling(主流文档转换器):0.150
- 纯文本:0.075
更糟的是假阳性率。docling 的假阳性率——把作者没标记的句子误报为要求——是正确方法的四倍。Agent 不是"少回答了",而是"乱回答了"。
定位:不是所有格式都重要
论文做了一个精细的消融实验:逐个线索类别做留一法分析,看哪类格式线索对准确率贡献最大。
六类线索:高亮、颜色、加粗、斜体、等宽体、删除线。
结果:
- 高亮:+0.302(Holm 校正后 p < 1e-4)
- 颜色:+0.262(p < 1e-4)
- 加粗:±0.003(不显著)
- 斜体:±0.003(不显著)
- 等宽体:±0.003(不显著)
- 删除线:±0.003(不显著)
这个发现把"格式很重要"这个模糊的直觉变成了一个具体的、可操作的结论:你只需要保留颜色和高亮,其他格式线索可以扔掉而不影响 Agent 表现。
看到线索还不够,还得告诉 Agent 它是什么意思
论文还有一个预注册实验:仅仅保留颜色线索够不够,还是需要额外告诉 Agent "红色表示重要"?
结果:保留颜色 + 告诉 Agent 颜色含义比只保留颜色再提升 +0.085(Holm 校正后 p = 0.049)。
这意味着线索丢失有两层: 1. 感知层丢失:转换器把颜色扔了,Agent 根本看不到 2. 语义层丢失:即使 Agent 看到颜色,如果不知道"红色=重要",它也不会利用
修复需要两层:先保留感知(让 Agent 看到颜色),再补上语义(告诉 Agent 颜色代表什么)。
为什么主流转换器会丢
主流文档转换器(docling、unstructured 等)的设计目标是"把文档变成干净的文本"。在这个目标下,颜色和高亮是"视觉装饰",不是"语义内容",自然会被丢弃。
但这个设计假设是错的。在企业文档中,颜色和高亮不是装饰,是作者明确标注的语义信号。作者用红色标记"必须遵守",用黄色高亮标记"注意风险"——这些信号和文字内容一样重要。
更糟的是,没有任何主流文档解析基准测试颜色和高亮的保留。解析器的 benchmark 测的是"能不能正确提取文字"、"能不能识别表格"、"能不能处理公式"——但不测"能不能保留颜色"。所以解析器在 benchmark 上表现良好,但在真实场景中静默失败。
对 Agent 构建者的实用建议
论文的实践建议很明确:
1. 摄入环节是可靠性的胜负手
不要把所有精力花在推理和检索上。如果你的文档摄入丢了关键信息,再强的推理也救不回来。摄入,不是推理,是可靠性被赢或输的地方。
2. 修复成本低且可测量
保留颜色和高亮不需要复杂的 ML——只需要在 OOXML 解析时读取 run properties,把颜色信息作为结构化标记保留下来。成本极低,效果可量化(F1 从 0.150 到 0.690)。
3. 不要信任"看起来干净"的文本
纯文本看起来完整、可读、没问题。但"看起来完整"和"信息完整"是两回事。任何从 .docx 或 PDF 转纯文本的管道,都可能静默丢失关键语义信号。
更大的图景:多模态 Agent 的盲区
这篇论文指向一个更广泛的问题:当前 LLM Agent 的"多模态"能力有盲区。
我们说"多模态"时,通常指"能看图片、能听音频"。但文档也是一种模态——它有视觉结构(颜色、高亮、布局、字体),这些视觉结构承载语义信息。把文档降维成纯文本,等于扔掉了一整个模态。
这和之前 VLM(视觉语言模型)在文档理解上的发现一致:VLM 能看到文档的视觉结构,但当前大多数 Agent 框架不用 VLM 来读文档,而是用文本转换器 + 纯文本 LLM。这个管道在"颜色和高亮"这类视觉语义信号上系统性失败。
未来的 Agent 可能需要直接用 VLM 来读文档——不是"转换成文本再理解",而是"像人一样看文档"。在那之前,至少应该在文本转换管道中保留颜色和高亮信息。
诚实评价
论文有局限:
- 任务类型单一:只测了"列出要求"这一种任务。颜色和高亮在其他任务(总结、问答、信息提取)上的重要性可能不同。
- 领域特定:政策文档可能比其他类型文档更依赖颜色标记。营销文档、技术文档、法律合同的格式语义可能不同。
- +0.085 的语义提升边际不大:p = 0.049 刚好过 0.05 线,效应不大,作者也诚实报告了这一点。
论文:arxiv.org/abs/2610.30026 代码:论文声明将开源