别问它有多自信,问问它的论证有没有在打架
过去一年里,AI 圈发生了静默但深刻的范式转移:模型不再张嘴就答,而是先在草稿纸上写满推导,再给出结论。这就是所谓的推理模型(reasoning models)——先经历一段可能长达几千 token 的"思维链",再交付最终答案。它们在数学竞赛和科学基准上碾压前辈,于是人们很自然地把目光投向了更危险的舞台:医疗诊断、…
目录
别问它有多自信,问问它的论证有没有在打架
🧭 当推理模型开始"沉思",我们怎么知道它没在做梦
过去一年里,AI 圈发生了静默但深刻的范式转移:模型不再张嘴就答,而是先在草稿纸上写满推导,再给出结论。这就是所谓的推理模型(reasoning models)——先经历一段可能长达几千 token 的"思维链",再交付最终答案。它们在数学竞赛和科学基准上碾压前辈,于是人们很自然地把目光投向了更危险的舞台:医疗诊断、法律咨询、能自己动手调工具的 agentic 系统。这些场景的共同点是一句话:模型犯错的代价,不再是答错一道题,而是毁掉一个人。
在把一个推理模型送进手术室之前,我们必须回答一个古老的问题:它有多确定?注意,不是"它答对了吗"——那是事后诸葛;而是"在答案揭晓之前,我们能不能估计这条推理链该不该被相信"。这叫不确定性量化(Uncertainty Quantification, UQ),是模型部署到高风险场景前的最后一道关卡。
它的用法也值得一说:实际部署中,UQ 最常见的形态是拒答机制。系统给每道题的预测打一个不确定分,分数越过阈值就拒答——把这道题转给人类、或者干脆承认"我不知道"。这套机制的好坏完全取决于不确定性分数的质量:它应该精准地排在答错样本的前面,把"危险的自信"拦在闸门外。拦对了,省下的是误诊、错判;拦错了或者拦反了,反而把正确答案拒之门外。所以评价 UQ 方法,本质上是在问:它排出来的"可疑名单",真的按错误概率从大到小排了吗?
论文《Argument Graph Uncertainty》(作者姑且译作"论证图不确定性",简称 AGU)提出了一条相当优雅的思路转换:别盯着模型的表情(token 概率)看,也别反复问它同一道题(采样一致性),而是去读它写的推理过程本身——一条思维链是不是一个自洽的论证?它的各个前提互相支持,还是互相拆台?结论真的是从有据的推理中一步步走出来的吗?
这就像法庭上评估一份证词。老练的律师不会只看证人说话时有多镇定(那是 token 概率),也不会只听他重复三遍说辞有没有出入(那是一致性采样),他会逐句交叉质证:"你三点钟说你在图书馆,四点钟又说你在回家的路上——这两个命题的蕴含关系是什么?" AGU 做的,就是把这套交叉质证自动化、数学化。
🕳️ 两条老路,各自塌方
先说现有的两条路是怎么走的,以及它们为什么不够用。
第一条路叫一致性方法(consistency)。做法很直觉:同一道题让模型采样回答五次,看五次答案一不一致。如果大家众口一词,大概率高枕无忧;如果五票分裂成三比二,就得小心。思路没错,代价是贵一个数量级——推理模型一条 trace 动辄几千 token,采样五次就是五倍的推理成本。更要命的是,它只看最终答案投没投出一致票,中间那几千 token 的推理信息被全部丢弃。就像雇了五个侦探查案,最后只问他们"嫌疑人是不是他",没人关心五个人各自的推理过程对不对。哪怕四个侦探异口同声、第五个却在推理中悄悄发现了决定性反证——一致性方法对这个反证一无所知,只要五个人最后凑巧投了同一个名字。
第二条路叫 token 熵方法(token entropy)。语言模型每吐出一个 token 都带一个概率,把整条序列的"犹豫程度"加起来,当作模型自信的代理指标。这条路在普通模型上勉强能用,但在推理模型上近乎塌方,原因有三。其一,深层上下文会机械地抬高 token 置信:前文越长、越深,无论推理质量好坏,后续 token 的概率都被压得又高又平,表层信号被稀释。其二,RL 训练把输出分布越磨越尖——所谓 entropy collapse,token 熵整体塌缩,这个"自信仪表"的指针直接粘在满刻度上。其三,它分不清"语义上的不确定"和"词汇上的多变":同一个意思可以有一百种说法,token 熵看到词汇变化就紧张,其实人家心里门儿清。
论文图 2 里有一组很扎眼的实证:把模型答对和答错的样本的 token 熵轨迹画出来,两条曲线几乎重合——也就是说,这个仪表在最关键的分叉口上根本不偏转。至于那些"等等""让我重新想想"之类的回溯线索词,它们的熵忽高忽低,和真正的错误峰值 plateau 完全对不上。一些更偷懒的启发式——trace 长度、回溯短语计数——也早被后续研究拆台:trace 长度被问题难度、RL 训练的长度偏置、以及"想太多(overthinking)"污染得不成样子,overthinking 产生的 token 信号基本是训练伪影。
一句话总结:现有方法全部忽略了"这条推理链该不该被相信"的真正决定因素——它的逻辑结构。 一个三段论里,如果第二个前提和第一个前提打架,那么无论结论听上去多自信,这条链都是断的。这个"打没打架"的结构信息,就明晃晃地躺在几千 token 的 trace 里,却没有任何人系统地去读它。
🏛️ 一九九五年的纸上法庭:一段学术史小插曲
要理解 AGU 的巧妙,得先认识一位越南逻辑学家:Phan Minh Dung。1995 年,他在《Artificial Intelligence》期刊上发表了一篇今天已成经典的论文,提出抽象论证框架(Abstract Argumentation Frameworks)。这套框架的设想非常"纸上法庭":把一场争论中的所有论点(argument)抽象成图的节点,论点之间的攻击关系画成有向边,然后纯粹靠图论性质来决定哪些论点可以被接受——所谓"可接受性"由集合是否无冲突、能否防御住所有攻击这些组合条件推导出来。
这套框架的伟大之处在于它的克制:Dung 不关心每个论点内容是什么,只关心攻击关系的拓扑。真理不由嗓门决定,而由立场在整张攻击网中的位置决定——被谁攻击、能不能找到一群互相掩护的盟友反杀回去。它给整个计算论证学(computational argumentation)奠定了地基,至今仍是形式化辩论、法律推理、可解释 AI 的常备工具。读 Dung 的原文,你会惊讶于它的现代感:在一个神经网络还没统治 NLP 的年代,他已经把"争论"这个东西抽象成了可以计算的对象,而可计算就意味着可以被审计、被反驳、被度量。
AGU 的作者们从这个三十年前的思想里偷来了一样东西:论证的可信度不是节点的属性,而是图的结构属性。但他们做了一个关键的现代化改造:Dung 的框架里,攻击是二值的——A 要么攻击 B,要么不攻击。这在 1995 年是合理的抽象,但放在神经网络的思维链上就太僵硬了。AGU 把"攻击"替换成了 NLI(自然语言推理)模型输出的概率分数:一条命题对另一条命题,是蕴含、中立,还是矛盾——三个概率加起来等于一,攻击有了程度,有了灰度。二值的黑白决斗,变成了有分寸的交叉质证。
另一个思想来源是证据深度学习(Evidential Deep Learning, EDL,Sensoy 等人 2018 年提出)。EDL 的思路是:别直接输出类别概率,而是输出一个狄利克雷分布的参数——你可以把它想成"对概率分布的分布",参数代表模型手里攒下的各类证据总量。证据越集中在一个类上,模型越笃定;证据稀薄或摊平,就该警觉。AGU 借用了这整套数学骨架,但做了一次漂亮的换心手术:EDL 的证据来自神经网络输出层的 logits,而 AGU 的证据来自论证图的结构完整性。心脏换了,身体的血液循环还是狄利克雷的那一套。这个"旧瓶装新逻辑"的嫁接,是全文概念上最优雅的一笔。
🔧 把思维链放上解剖台:AGU 的流水线
现在把 AGU 的流水线拆开讲。它是 post-hoc 的——事后分析,不改被测模型一根参数;任务设定是选择题(MCQA),输入只要一条思维链。全程分五步,每一步都用生活化的话说清楚,再给出准确的操作。
第一步,推理分段(Reasoning Segmentation)。 把一条几千 token 的思维链切成 n 个命题段 v₁…vₙ,每一段表达一个相对完整的陈述。默认用一个小型指令微调模型(Qwen3-8B Instruct)来切;有意思的是,直接按段落硬切(paragraph split)也完全可用,零模型调用,一分钱不花。这就像让模型写证词时自觉分段:每段一个意思,方便后面逐段质证。
第二步,NLI 边打分。 用一个预训练的 NLI 模型——论文特意选了 DeBERTa,理由是它至今仍是 NLI 基准上最强的 encoder 模型,而且算力便宜——对任意一对句子输出一个三元组概率:蕴含概率 p_E(前句能推出后句吗)、中立概率 p_N(两说各不相干吗)、矛盾概率 p_C(前句能否定后句吗),三者之和为一。选 encoder 而非生成式大模型打分是深思熟虑的:这个步骤要对几百上千个句子对逐一打分,用量小、延迟低、判断稳的双向编码器,恰好是对的位置用对的工具。
第三步,基于这些分数搭两张互补的图。
第一张是节点—选项承诺图:每段命题 vᵢ 对题目里每个选项 aₖ(共 K 个)打一个分。做法是给每个选项造一个假设句 hₖ,形如"The answer is Option X: [选项文本]",然后算这段命题对假设句的矛盾调整支持度:eᵢ,ₖ = max(0, p_E − p_C)。这个公式的含义非常讲理:只有"支持多于反对"的部分才算证据;反对不提供负证据,只是把这一步的支持归零,而不会去抵消别的步骤的支持。就像法庭上,证人的一句证词被驳倒了,效果是他这句作废,而不是给被告多加一条罪状——举证责任的方向不能反。
第二张是全连接段—段图:所有有序对 (vᵢ, vⱼ) 都打一遍 NLI 分(也提供窗口版,只算 |i−j| ≤ w/2 的邻居对)。从这张图中蒸馏出两个全局标量。一个叫全局冲突(Conflict):所有有向边矛盾分的平均值,度量整条 trace 在多大程度上"自己打自己"。另一个叫方向不对称(Asymmetry):正方向蕴含分与反方向蕴含分之差的绝对值再取平均,度量支持关系是否依赖先后顺序——健康的论证应该前后互相印证,而不是只有"因为所以"没有"所以因为"。
第四步,节点可靠度。 对每一段 vᵢ,算两个 coherence(连贯度):全局连贯 cohᵢ 是它对其余所有节点的平均净蕴含(归一化后);局部轨迹连贯 trajᵢ 是它只对相邻边的平均净蕴含。然后加权融合:rᵢ = λ·cohᵢ + (1−λ)·trajᵢ,默认 λ=0.5。翻译成人话:一个步骤被信任的程度,等于它和全局自洽、又和邻居自洽的程度——既要在整个论证的大格局里站得住,也要跟前一句后一句接得上。一个在全局里没问题但和前后都接不上的段落,就像一份每句话都正确、但凑在一起毫无因果的笔录,并不可靠。反过来,一段只跟邻居热络、却和整体论证格格不入的话,也可能是漂亮但离题的修饰——所以两个尺度缺一不可,各看一半。
第五步,狄利克雷证据聚合。 对每个选项 aₖ,把各步证据加权求和:Eₖ = Σᵢ rᵢ·eᵢ,ₖ——可靠的步骤权重高,不可靠的步骤说话没人听。然后是关键的一刀:有效证据尺度 κ_eff = κ·exp(−γ_c·Conflict − γ_a·Asymmetry)。指数衰减意味着:内部冲突大、方向不稳的推理链,即便每步证据勉强为正,整体证据也会被成比例地打折——一条处处勉强自圆其说、但整体暗流涌动的证词,其总分量就要缩水。
用一个具体的庭审画面收尾这套流水线:假设嫌疑人声称"案发时我在图书馆"。律师先把口供切成若干句命题(第一步),逐句盘问每句话和"无罪"这个假设的关系(第二、三步的承诺图),同时把口供内部的所有句子两两对照——"你说三点在图书馆"和"你说四点在回家路上"之间,是蕴含、中立,还是矛盾?(段—段图,由此算出全局冲突与方向不对称)。盘问中水分大的句子权重被压低(第四步),剩下的有效证词汇总成总判断,而且只要口供内部互相打架,总判断就整体打折(第五步)。法院最后拿到的不是一句"我觉得他没说实话",而是一个落在 [0,1] 区间上的置信分——这正是狄利克雷聚合输出的样子,每一分都能回溯到具体的某几步论证上。
最后 αₖ = α₀ + κ_eff·Eₖ,得到狄利克雷分布的参数,预测均值为各选项 α 归一化后的占比,不确定性 U_AGU 就是对这套占比算 Shannon 熵再归一化到 [0,1]。熵越高,证据越摊在多个选项上,模型就越该说"不知道"。
默认超参数只有五个:α₀=1.0,κ=12.0,γ_conflict=1.2,γ_asymm=1.0,λ=0.5。整个流程对被测模型零额外调用——花的只是分段小模型加 NLI encoder 的小钱。
📊 九个模型,八个登顶:主实验成绩单
实验在三个基准上进行:主战场是 GPQA Diamond(研究生水平的科学选择题),辅以 MMLU-Pro 和 TruthfulQA。被测者是九个公开推理模型,阵容豪华且多样:DeepSeek-R1-Distill-Llama-70B、DeepSeek-R1-Qwen-14B、DeepSeek-R1-Llama-8B、GPT-OSS-120B、GPT-OSS-20B、Nemotron-Nano-30B、Qwen3-30B-Thinking、Qwen3-4B-Thinking、Phi-4-Mini-Reasoning。统一 FP16 精度、温度 0.7、top-p 0.9,每题采样 n=5 次。评价指标是 PRR(Prediction Rejection Ratio,预测拒绝比):把模型标记为高不确定的样本拒绝掉之后,剩余样本的准确率提升了多少——越高越好。直觉是:好的不确定性指标应该精准地抓住"将要答错"的那批题。可以把它想成机场安检:好的安检仪让旅客按危险程度排队,队伍最前面全是真的危险品;差的安检仪要么全员放行(塌缩),要么随机抓人(甚至倒挂——前面说的 token 熵负 PRR 就是抓人的比放行的还多)。
先看 GPQA Diamond 上的成绩单。AGU 在九个模型中的八个上拿到最高 PRR:
- Nemotron-Nano-30B:AGU 0.65,一致性 0.24,token 熵 0.41——碾压级的优势;
- GPT-OSS-120B:AGU 0.56,一致性 0.36,token 熵 −0.27——注意这个负数,token 方法惨到把拒绝顺序完全倒挂,按它拒样等于专挑对的拒;
- GPT-OSS-20B:0.55 对 0.35 和 0.14,同样一边倒;
- Qwen3-4B-Thinking:0.51 对 0.20 和 0.27;
- Qwen3-30B-Thinking:0.43 对 0.31 和 0.10;
- Phi-4-Mini-Reasoning:0.43 对 0.15 和 0.06;
- DeepSeek-R1-Qwen-14B:0.41 对 0.29 和 0.10;
- R1-Llama-8B:0.29 对 0.26 和 −0.13。
最值得玩味的是小模型上的表现。Phi-4-Mini 和 Qwen3-4B 这两个小家伙身上,token 熵不可靠(0.06、0.27),一致性也不灵(0.15、0.20),AGU 却分别稳在 0.43 和 0.51。这说明论证结构捕捉到了原本在表层信号里丢失的信息——小模型嘴上说不利索,但它的推理骨架里,断链和冲突依然是看得见的。换个角度说,token 熵和一致性都依赖模型"自己意识到自己不确定"的某种元认知能力,而逻辑矛盾是客观摆在那里的:前提互相打架这件事,不需要模型有自知之明,只需要一个会读句子的旁观者。对成本敏感的部署场景,这个性质几乎是雪中送炭:不用堆采样,不用信 token 概率,读结构就行。
🎻 三种分布的形状诗
论文图 4 给了三组直方图,是整篇文章里最有画面感的证据。它把三个方法输出的不确定性分布在所有模型上汇总起来看,形状截然不同,几乎可以当诗读。
token 熵的形状是"塌缩":全部模型的不确定性挤在近 0 的一小坨里,分布干瘪得几乎没有分辨率。这就是 entropy collapse 的直视图——仪表指针焊死在"我很确定"上,不管它心里是不是在打鼓。一个几乎恒为零的变量,当然不能预测任何事。
一致性方法的形状是"双峰":分布死死钉在两个端点上,要么五次采样完全一致(不确定度为 0),要么彻底不一致(不确定度为 1),中间空空如也。像一台只会说"是"或"否"的测谎仪。问题在于真实世界的不确定性大多是连续的:模型可能对答案有七成把握,这个信息在一致性方法里无处安放——它被四舍五入成了"一致"。
AGU 的形状是"铺开":不确定性在 [0,1] 区间上广泛、平滑地摊开,中间地带有真正的分辨率。它恰好填上了双峰之间那道一致性方法无法分辨的峡谷。 当一个方法既能说"这条链完全自洽"(接近 0),又能说"这条链在第三步和第七步互相打架"(中间值),还能说"证据摊在两个选项上谁也压不倒谁"(接近 1)时,它输出的才是一个真正的"度",而不是一个二值的判决。不确定性量化的全部意义,本来就在于这连续的刻度。
三种形状放在一起,其实是一个关于"信息去哪了"的诊断:token 熵的信息被 RL 训练磨没了;一致性方法的信息在"多次投票"的粗粒度化中被压扁了;而 AGU 的信息一直躺在 trace 里,只是之前没有人去读。图 4 因此不只是一张对比图,更像是一则寓言:你以为最先进的信号一定藏在最贵的计算里,最后救场的反而是最朴素的一个念头——把话读懂。
🚀 全文高潮:当两种不确定性握手言和
如果说前面的结果已经漂亮,这一节的发现则堪称全文之魂,也是我认为最值得所有做模型评测的人记住的一课:AGU 与一致性方法几乎是正交的。
实验做法很朴素:把 AGU 的不确定性和一致性的不确定性做等权平均,得到一个混合指标。结果——九个模型,每一个的 PRR 都创了新高。看 Nemotron-Nano-30B:AGU 单用 0.65,一致性单用只有 0.24,混合后冲到 0.68,超过两个亲本各自的最好成绩。更惊人的是连 AGU 输掉的那个 R1-Llama-70B,混合后的成绩也同时超过了两个单方法——0.34 和 0.46 的孩子比父母都高。
这意味着什么?意味着这两种方法看的是不确定性这枚硬币的两个不同的面,而且它们的盲区不重叠。AGU 的图结构抓的是推理内部的冲突:一条 trace 自身的前提是否互相拆台、方向是否稳、这一步能不能推出下一步。一致性抓的是跨采样的变异:换个随机种子,模型会不会改口。一个模型完全可能内部论证滴水不漏、但换个采样就换答案(它在两个选项间随机游走,每次都自洽地游到不同的地方);也完全可能五次采样五次同答、但每次的推理链内部千疮百孔(它坚定地用一条错误的逻辑链得出同一个错误结论——这在 RL 模型里叫虚假的连贯)。单一方法必然漏掉其中一半,混合才能两全。
往深处再想一层:这个发现其实给整个 UQ 领域提了个醒。过去各家方法互相攀比 PRR,暗含"赢家通吃"的假设。AGU 的结果显示,不确定性本身是多维的——同一道题,模型可能同时"内部摇摆"和"跨次摇摆",这两种摇摆彼此独立、各有成因。把它们压成一个标量再去比谁更准,就像争论"体温计和血压计哪个更能预测健康"——答案是两个都测,而且都测比测任何一个都强。这个视角转换,或许比 PRR 小数点上的胜负更有长久的价值。
作者们在附录 B.6 里显然也意识到这个发现有多香,于是试了各种花哨的组合策略——堆叠模型、非线性融合、可学习的加权。结论朴素得近乎反高潮:等权平均就够了。 没有免费的复杂度,最好的策略就是各取一半。这个"朴素胜花哨"的结局,在机器学习论文里是一股清流,也从侧面印证了正交性是真的——只有成分真正互补时,最简单的一比一混合才会奏效;若有冗余,简单平均早该被复杂策略超越。
顺带一提,这个混合策略的部署成本几乎是白捡的:一致性那一路本来就要采样五次,AGU 这一路只是一次事后结构分析。两路信号都有,加起来的分数只是一个平均。花五份钱拿到两份互补的读数,再合成一个比任何单读数都准的判断——这笔账,任何要做拒答阈值的生产系统都应该算一算。
🛡️ 打不坏的尺子,和算得清的账
一个方法要上生产环境,光准不够,还得皮实、便宜。AGU 在这两条上都交了好答卷。
鲁棒性(图 5):把 NLI 打的边标签随机翻转 10%,AGU 保留 78% 的 PRR;翻转 40%,还能保住一半;换成高斯噪声,σ=0.5 时保留 97%,σ=1 时保留 85%。为什么能这么抗造?因为狄利克雷证据是在几十条边上聚合的,没有任何单条边能显著移动最终估计——一条边错了,只是几十票里投错一票。这也揭示了 AGU 真正依赖 NLI 的是什么:不是逐边精度,而是排序判断的统计性质。用费曼的话说:你不需要一个从不出错的证人,你只需要一群大体诚实、错误互不相关的证人。
消融(表 2):分段方式的影响比想象中小。用 Qwen3-8B 分段,平均 PRR 0.46(标准差约 0.08);换 GPT-OSS-120B 来分段,平均 0.50,标准差降到 0.03——分段是 run 间方差的主要来源;而零成本的按段落硬切,平均 0.47。所以 compute 紧张时,段落切分就是默认选项。还有两个有意思的细节:用 GPT-OSS-120B 做分段器,能把 GPT-OSS-20B 的 PRR 推到 0.76;段落切分在 Nemotron 上拿到 0.71,是全场最高分——大模型的分段能力确实更好,但小段落也完全够打。
和 trace 长度划清界限:一个合理的怀疑是:AGU 是不是偷偷在量"这条链有多长"?毕竟图的大小和段数正相关。作者直接把段数当不确定性用,平均 PRR 只有 0.33,而 AGU 是 0.45,九个模型里七个更强;两者排序相关只有 Spearman 0.43;把段数回归掉之后,AGU 残差的 PRR 仍有 0.33。论证图的信号大部分是独立于长度的——它不是"想太多"伪影的又一个变体。
成本:AGU 对被测模型零调用。窗口版(w=10)把 NLI 阶段从 O(n²) 降到 O(n),PRR 差距在 0.01 以内,默认推荐窗口版。而一致性方法的成本随 trace 长度线性增长且常数巨大——五倍采样就是五倍账单。附录 C 里给出了解析成本式和实测墙钟对比:AGU 窗口版也是线性增长,但斜率小得多。读一条 trace,永远比读五条便宜。而且这个"便宜"不只是钱:在 agentic 场景里,模型每一步行动都可能触发外部副作用,一致性采样意味着同样的副作用可能发生五次。事后读一遍结构,副作用只发生一次。
🤔 冷静的尾巴:局限与余味
诚实地说,AGU 也不是万能的。它只适用于选择题这类有明确选项的任务——开放问答里"假设句"该怎么构造,论文没有覆盖。NLI 模型本身的能力上限就是 AGU 的天花板之一,尽管实验证明了聚合机制对边噪声高度鲁棒,但面对精心构造的、整段都看似自洽实则错误的推理链,图结构方法天然难以察觉——毕竟它量的是自洽,不是真理。一个在错误前提上构建得无懈可击的三段论,图上看不出裂缝。这个盲区也许只能交给外部事实核查来补。
另外九个模型里输掉的那一个(R1-Llama-70B)也提醒我们:当模型本身足够强、采样又足够稳定时,一致性方法的跨采样信号会非常干净,此时内部结构的边际收益会收窄。好在这正是正交性发现的用武之地——混合策略在九个模型上无一败绩,包括这个例外。
放下这些局限,这篇论文真正打动人的地方在于它的姿态。在所有人疯狂给推理模型加算力、加采样、加训练的年代,它往回退了一步,说:先别管模型多自信,让我们读读它到底写了什么。把三十年前 Dung 那张纸上法庭的图,和狄利克雷那套证据演算缝在一起,造出一把打不坏、算得清、还能告诉你"哪一步在撒谎"的不确定性尺子——别忘了,rᵢ 这个节点可靠度是逐段算出来的,每个不确定分都能反查到具体的某几步论证,这种归因能力在调试和审计里的价值,远不止一个 PRR 数字能概括。而且它和现有方法不打架,握个手反而更强。
推理模型的"自信"危机不会由任何单一指标解决。但这篇论文至少证明了一件事:论证的逻辑结构里埋着金子,值得我们去读。而且读法不玄——不需要更大的模型,不需要更多的采样,只需要回头重读那几千 token,问一句最古老的问题:这一步,能推出下一步吗? Dung 一九九五年就在纸上问过这个问题,三十年后,轮到神经网络的思维链来回答了。
📚 参考文献
- 论文标题: Argument Graph Uncertainty: Quantifying Uncertainty from the Logical Structure of Reasoning Chains
- 作者: Simon Baur, Sumire Honda, Wojciech Samek, Jackie Ma(Fraunhofer Heinrich-Hertz-Institut, Berlin)
- arXiv: 2610.20328(2026-10-14,cs.AI)— https://arxiv.org/abs/2610.20328
- 许可: CC BY-NC-SA 4.0