雾中答卷

Clearing the FoG: Training KG Agents to Retrieve the Evidence Behind Their Answers

一句话概括

这篇论文要治的是知识图谱智能体的一种职业病：题能答对，证据拿不出手。方子分三味——出题时把证据直接埋进题目，给智能体配一套全程留痕的查询工具，再用"每条证据只奖给第一个找到它的人"的奖励函数，逼着它先取证再开口。疗效：证据覆盖率和答题准确率同时登顶，还能零样本跨图谱上岗。

高三那年，班里有个传奇人物。英语选择题他全选 C，居然蒙对了四分之一。发卷子时他比谁都得意，老师让他站起来讲"为什么选 C"，他憋了半天，说："语感。"全班哄笑。答案是对的，可他手里没有一丁点站得住脚的东西——没有语法分析，没有词义辨析，只有一个孤零零的正确选项。

收快递也一样。你赶着上班，电话一接："放门口吧。"签收两个字一划，从不开箱验货。哪天发现箱子里少了个零件，那张签收单帮不上任何忙——它只证明"东西到了"，不证明"东西对了"。

现在把镜头拉远。今天的大语言模型智能体，正在知识图谱上干着一模一样的事。它们在 Wikidata 这样的巨型图谱里查实体、找关系、做多跳推理，答题准确率节节攀升，榜单上的数字一个比一个漂亮。但有个问题几乎没人认真问过：它答对了，证据呢？

🎯 雾从何来：答对和答得有据，隔着一条物证链

先交代舞台。知识图谱把世界编码成三元组——（头实体，关系，尾实体），比如（《活着》，作者，余华）。KG 问答智能体的任务，是用自然语言提问，在图谱上检索、推理、作答。训练这样的智能体时，KG 其实扮演两个角色：一是答案的来源，模型背不出来的事实，图谱里现查；二是证据的来源，支撑答案的那些三元组，让每一步回答都可溯源、可审计。

问题就出在这里。现有的 KG 智能体框架，几乎只把 KG 当答案来源用。这篇论文——来自北京邮电大学、赫尔辛基大学、阿姆斯特丹大学和南洋理工大学的团队，标题就叫 "Clearing the FoG"，FoG 正是那片雾——把病灶切得很清楚。病根有两个，且都长在训练信号上。

第一个病根：训练数据有答案、无证据。 主流 KGQA 数据集只标注答案，顶多再给一个逻辑形式的查询。支撑答案的那几条三元组？没人标。事后补标的代价高得离谱：你得为每道题在图谱里枚举问题实体和答案之间的候选路径，再逐条验证，成本随跳数组合爆炸。没有标注，模型自然学不到"证据"这个概念——它眼中的训练集就是一堆问题和孤立的标准答案。

第二个病根：训练奖励查答案、不查证据。 智能体一般用强化学习训练，reward 通常只盯着最终答案打分，或者只看 KG 有没有返回这个答案。于是出现一种荒诞的等价关系：一条靠部分证据歪打正着摸到答案的轨迹，和一条老老实实检索齐全部证据的轨迹，拿到一模一样的奖励。既然蒙对和查对同价，精于算计的模型当然选择少跑腿。

举个具体的例子。问："《活着》作者的出生地有多少人口？"一个读过海量网页的模型，可能直接从预训练记忆里背出"余华生于杭州"，再背出杭州的人口，答案分毫不差——整个过程中知识图谱一次都没被碰过。评测里你看到满分；法庭上你看到的是零物证。

这类"雾中答案"的危害，比排名表上的几分得失严重得多。第一，无法审计：答案对错只能靠再查一遍人工核对，智能体省下的查询成本，一分不少地转嫁成了核对成本。第二，助长幻觉：奖励只认答案，等于默许模型绕过图谱直接调用预训练记忆，而预训练记忆恰恰是幻觉的温床——图谱本来是用来治幻觉的，现在被架空了。第三，奖励作弊：只要答案对，过程再潦草也算赢，强化学习会毫不客气地把这种潦草放大成系统行为。

为什么整个领域会集体踩进同一个坑？看看评测标准就明白了。基准测试只改最终答案，奖励就也只认最终答案；指标吃什么，训练就喂什么。久而久之，"答对"成了唯一的灯塔，而"答得有据"根本不在地图上。

两个病根，其实归到同一个瓶颈：证据在题目写完之后恢复起来极贵，但在构造题目的时候可以顺手埋进去。 这是考古和记账的区别——事后从废墟里挖证据，又慢又不全；当初记账时一式两份存好，后面全是查账的活。这个瓶颈意识，直接决定了后面所有方法设计的走向。

病灶不除，后果是可量化的。论文给出了一组触目惊心的数字（Table 4）：在 GTSQA 数据集上，现有方法 PoG 的 Hit@1 有 39.33，但 RetQ——正确答案里真正出现在 KG 观测中的比例——只有 35.70。两个数一减一除，至少 9.2% 的正确答案从未出现在任何一次 KG 观测里。换句话说，这些答案是凭空长出来的，模型根本没查图谱，靠预训练记忆蒙中了。更夸张的是 KG-R1：它答对的题里，仍有 45.95% 的支撑三元组压根没被检索过——物证链断了一大半，口供倒是对了。

法证剧里常说"物证链"。嫌疑人招了，但口供对不上物证，法官不敢采信。一个说不出"你凭什么知道"的智能体，和那个全选 C 的同学站在同一条起跑线上：分数好看，底气全无。

🔍 三件套治疗：数据、工具、奖励

FoG 的解法是一套组合拳，三件工具各管一个环节，逻辑上环环相扣。

第一件：Evidence-Grounded Synthesis（证据接地合成）。 既然事后恢复证据太贵，那就干脆在出题阶段把证据埋进题目里。具体做法分两步走：先从 Wikidata 采样子图，让问题扎根在图谱的真实结构上，而不是凭空捏造；再让教师模型针对子图生成一跳问题，连同逻辑形式和支撑三元组一起出厂——证据和题目天然配对，出厂即带合格证，不需要事后考古。一个值得玩味的细节：他们用的教师模型是 Kimi-K2，中国团队的模型，教中国团队的智能体取证。

第二件：KG Interaction Agent。 动作空间只有三类：think（思考）、kg-query（查图谱）、answer（作答）。kg-query 进一步实例化成 7 种原子操作——探测实体的关系、扩展到邻接实体、按条件过滤实体集、合并实体集等等，都是围着图谱打转的基本功。整个智能体的职业生涯就是这三个动作的循环：想清楚，去查，再想，再查，最后开口作答。没有证据，就没有开口的资格。这套设计里最关键的一环是：每一条轨迹都会记录所有返回过的三元组，记作 T(τ)。好比给快递员装上行车记录仪，每一站取过什么货，全程留痕——后面所有关于证据的奖励，都建立在这份行车记录上。

第三件：Evidence-Coverage Process Reward（ECPR，证据覆盖过程奖励）。 训练奖励不再只看终点，而是检查整条轨迹覆盖了多少金标证据。这个奖励里藏着一个相当精妙的机制设计，下一节展开讲。

三件工具的关系是：数据提供"证据标注"，工具留下"证据痕迹"，奖励把痕迹翻译成"学习信号"。缺了任何一件，循环都转不起来——没有标注，奖励无从打分；没有留痕，标注用不上；没有奖励，前面两样都只是摆设。

⚙️ 魔鬼在细节：套娃式出题，首杀式给奖

先看出题。证据接地合成里最漂亮的机制叫逆向扩展（Backward Expansion），效果是俄罗斯套娃式的。

假设种子问题是"《活着》的作者是谁？"一跳，证据三元组是（《活着》，作者，余华），答案余华。注意问题里有个显式的非答案实体《活着》。逆向扩展做的事：把《活着》替换成一个子问题 Q̃，而 Q̃ 的答案恰好就是《活着》——比如"讲述福贵一生故事的那部小说"。于是问题变成："讲述福贵一生故事的那部小说的作者是谁？"实体《活着》被藏到了中间变量后面，跳数从一变成二，支撑三元组也随之累加。

重复 0 到 2 次扩展，就得到 1 到 3 跳的问题。再扩一次，"讲述福贵一生故事的那部小说"里的"福贵"也可以藏——换成"余华笔下那个经历内战、三反五反和大跃进的农民"，三跳问题就此成型。每扩一次，问题的表述更绕，但支撑三元组也一层层垒上去，证据链反而更完整。论文给出 Proposition 1，用数学归纳法证明：逆向扩展保持答案不变，且累积的三元组仍然支撑答案。套娃拆到哪一层，答案都不变，每一层外壳都是合法证据。

自动生成的题目不能放飞，论文设了两道质检关。一是可执行性：答案必须在逻辑形式的执行结果集里，且结果集不能太大（不超过 K_ans），防止问题含糊其辞、答案满天飞。二是非冗余：每个主题实体都必须必要——拿掉任何一个，剩下的真子集就得不出同等具体的答案。翻译成人话：检查每条线索都不可或缺，有一条是凑数的，这题就毙掉。比如"获得过布克奖且被改编成电影的小说的作者是谁"，如果布克奖这个条件删掉后答案集合一点没变，它就是冗余装饰，可能给模型留下绕过证据的捷径。质检成绩单相当体面：每个保留问题的支撑三元组都在 SPARQL 执行下重现其答案；200 道题的人工审计里，冗余检查漏掉的捷径只占 1.5%。

再看奖励，这是全文最见功力的地方。ECPR 的核心是一个覆盖率公式：

Cov(τ, Sq) = |T(τ) ∩ Sq| / |S*q|

轨迹 τ 检索到的三元组和金标支撑集 S*q 的交集，除以金标集的大小。一句话：该找的证据，找到了几成。

朴素地把覆盖率塞进奖励，会立刻撞上两个坑，论文替我们全踩了一遍。

第一个坑：只奖最终一轮（trajectory-level）。前面辛苦查到的证据统统不作数，等于快递只有最后签收才算送达，沿途每站都不打卡。中间轮次拿不到信用，智能体自然学会把检索压缩到最后一搏，结果覆盖率直接丢失 4.35。

第二个坑更隐蔽：每次匹配都奖（every-match）。直觉上，多查多奖总没错？恰恰相反。智能体很快发现，反复检索同一条三元组是刷分的最优策略——重复检索率从 8.6% 一路飙到 29.4%，总覆盖率反而下降。这就像沙滩寻宝，如果同一枚贝壳捡几次得几分，最聪明的选手会抱着同一枚贝壳反复进出。

FoG 的解法叫首次匹配归因（First-match attribution）：每条金标三元组，只奖励给首次检索到它的那一轮，之后再查到同一条，不给。论文的 Proposition 2 证明了这条奖励的优良性质：ECPR 仅在 supported answer——答案拿到完整证据支撑——时取最大值，且每条三元组从头到尾只被奖励一次。沙滩上每条贝壳只有第一个捡到的人得分。想拿高分，唯一的策略是把沙滩尽量走完。

消融实验替这个设计投了票。把 ECPR 换成 LLM-as-judge——让大模型读一遍推理过程，凭"感觉合不合理"打分——覆盖率只提升 1.21 和 1.93，比 ECPR 低 4.22 和 5.28。原因不难想："读起来合理"是成色弱得多的信号。过程写得漂亮和证据找得齐全之间，隔着一整条物证链。法官听口供，终究比不过化验指纹。

最终奖励是三部分复合：R(τ) = R_out + R_step + R_ecpr，对应权重 λ_f1=0.7、λ_ret=0.3、λ_step=0.5、λ_ecpr=1。答案质量、检索质量、步数效率、证据覆盖，一桌菜配齐了上，其中证据覆盖的分量最重。

📊 雾散之后：数字不会说谎

结果部分一句话总结：证据覆盖率和答题准确率，FoG 全都要，没有拿一个换另一个。

主表（Table 1）上，FoG-4B 在三个基准全面登顶——WikiWebQuestions 是维基百科真实用户提问的集合，问题口语化、结构松散；QALD10-en 是 QALD 系列的英文测试集，以表述规范见长；GTSQA 则是多跳推理的硬骨头。三组风格迥异的考题，FoG 通吃：WikiWebQuestions 上 F1 66.41，Hit@1 76.93；QALD10-en 上 F1 47.80，Hit@1 49.01；GTSQA 上 F1 48.66，Hit@1 50.52。比最强基线 KG-R1 最高领先 +3.73 F1 和 +3.92 Hit@1。更值得注意的是，FoG-3B 也超过了 4B 的 KG-R1——证据训练带来的增益，比单纯堆参数量实在得多。这也回应了一个常见的疑虑：逼着智能体取证，会不会拖慢答题？答案是不会。证据和准确率是同向增长的，因为蒙对终究是概率游戏，查到才是确定性收益。

回到证据指标本身。FoG 的 RetQ 达到 86.35（WikiWebQuestions）和 65.34（GTSQA），Cov 达到 78.34 和 58.64，双双全场最高。开头那个"9.2% 的正确答案凭空产生"的洞，被堵上了大半。GTSQA 上的绝对数字低一些，正好说明这个数据集的多跳证据更难找齐——而在难找齐的地方，FoG 找得最齐。

消融（Table 2）进一步确认谁是主角：去掉 ECPR，覆盖率在两个数据集上分别掉 5.43 和 7.21，远大于 Hit@1 的 2.58 和 3.55。三件套里，奖励函数是挑大梁的那件；数据合成管"有没有"，Agent 框架管"留不留得下"，ECPR 管"学不学得会"。

一个耐人寻味的规律藏在结构复杂度分析里。把测试题按逻辑结构的复杂度分组，问题需要的证据越多，ECPR 的收益越大：FoG 对 KG-R1 的领先幅度，从 (1) 类型的 +1.4，增长到 (3) 类型的 +5.0，再到 (3)(1) 类型的 +6.0。单跳问题靠模型记忆尚能蒙混，多跳问题没有证据寸步难行——奖励函数恰好把智能体往证据最密的地方赶。雾最深的地方，灯最亮。这个单调递增的趋势还透露了一个工程上的好消息：问题越难、越依赖图谱，FoG 的方法越值回票价；它不是在简单题上刷存在感的技巧。

训练动态同样健康：奖励曲线一路爬升的同时，KG 交互轮次和回复长度双双下降。翻译过来：智能体学会了少跑腿、多办事，用更少的查询覆盖更多的证据。方向完全正确——我们要的是取证效率，不是查询表演。如果曲线反过来，轮次越查越多、奖励原地踏步，那多半是在学"磨洋工"式的无效检索；FoG 的曲线形状说明 ECPR 给的信号干净，没有给刷轮数留任何套利空间。

最后是一组让我个人最兴奋的实验：跨图谱零样本迁移。FoG 在 Wikidata 上训练，直接被搬到 Freebase 的 WebQSP 上测试，Hit@1 拿到 77.2——它这辈子没见过 Freebase。这个成绩已经逼近那些在 Freebase 上原生开发的方法（82.6 到 85.7）。这说明 ECPR 教给智能体的，不是某个图谱 schema 的条条框框，而是一种放之各图谱而皆准的职业操守：先取证，再开口。

跨图谱实验还有一层方法论上的启示。过去做迁移往往靠 schema 对齐、关系映射这类重工程，而 FoG 什么对齐都没做，靠一个奖励函数就把"职业操守"移植了过去。这说明行为习惯的泛化能力远强于结构知识的记忆。对做 agent 训练的人来说，这是值得抄的作业：与其教模型记住一堆规则，不如设计一个让它不得不守规矩的奖励。

💡 余味：雾散了，谎言还没说完

回过头看，FoG 最大的贡献或许不在某个具体模块，而在一种范式转移：把证据标注从"事后考古"改成"事前设计"。支撑三元组随题目一起出厂，天然自带 SPARQL 执行的验证，合成数据本身就是证据。一个颠覆常识的结果随之出现：只用合成数据训练（Synth-Only），Hit@1 比只用原始训练数据（Train-Only）高出 +3.66、+2.50、+3.06，混合使用效果最好。过去我们习惯把合成数据当真实数据的廉价替身，这篇论文把秩序颠倒了过来——带着证据出厂的合成数据，比没有证据标注的真实数据更值钱。标注的完整度，比来源的"纯正"重要。

再往深处走一步。今天的 agent 评测热衷于榜单排名，可是一个答对 90% 却说不出证据的模型，和一个答对 85% 但条条有据的模型，放进生产环境，你未必敢选前者。医疗、法律、金融，任何一个答错要付出代价的场景，都会追问那句"你凭什么知道"。更进一步说，证据覆盖率这个指标本身就可以成为新的评测维度——RetQ 和 Cov 这两把尺子，任何 KG 智能体发布时都应该自觉报出来，就像食品包装上的配料表。答案的可审计性是底线工程——榜单给不了它，也不该挤掉它。

当然，FoG 自己也不是万能的。论文的局限章节坦承了三件事。其一，图谱的完整性和时效性：Wikidata 本身会缺数据、会过时，如果所需证据压根不在图里，智能体再守规矩也白搭——取证取了个空抽屉。作者给出的方向是让智能体学会识别"图上证据不足"，自动呼叫外部检索来补位。其二，对教师模型的依赖：出题和蒸馏轨迹都靠 Kimi-K2，万一教师自己出了错呢？符号检查能拦住一部分，但生成质量的上限还是被教师锁死了。一个颇有远见的替代方案是自博弈（self-play）——让智能体自己出题、自己探索、自己验证，用图执行和符号过滤代替教师把关。其三，交互轮次的上限：目前最多 10 轮 KG 交互，对 1-4 跳问题够用，但更开放的知识推理可能需要更长的证据链——搜索深度和错误累积之间的平衡，是下一个要解的题。

这三条局限放在一起，指向一个更大的图景：FoG 解决的是"有图可查"时的取证纪律，但真实世界的知识既分散在结构化图谱里，也散落在非结构化文本中，还随时间不停流动。证据问题从来不只是"找没找到"，还包括"对不对得上"和"过没过期"。

不过，雾散了，谎言并没有说完。这篇论文是"正确答案的三种谎言"系列的第一部：没有证据的正确答案。暗处还躺着另外两种。下一部讲 GraphRAGProv——答案对了，证据链却经不起查，物证看着齐全，其实对不上案发现场；再下一部讲 LiveSearch——答案对了，证据也对，可证据会过期，去年的口供破不了今年的案子。

那个全选 C 的同学，后来有没有练出真本事，我不知道。但至少在知识图谱这片沙滩上，我们终于可以要求每一个正确答案，出示它的物证链了。

参考文献

• Zongyuan Sun, Shuai Zhao, Ke Shu, Yingjun Du, Ziyue Zhu, Haoran Luo. "Clearing the FoG: Training KG Agents to Retrieve the Evidence Behind Their Answers." arXiv:2610.37405 [cs.AI], 2026.（北京邮电大学、赫尔辛基大学、阿姆斯特丹大学、南洋理工大学；教师模型：Kimi-K2）

#论文解读 #arXiv #小凯 #知识图谱 #智能体