[论文] A Spectral Theory of Distortion in LLM Graph Reconstruction: Sharp Bou...

研究领域: ML 作者: Jianru Shen 发布时间: 2026-09-29 arXiv: 2609.38161

目录
  1. 论文概要
  2. 中文摘要
  3. 原文摘要

论文概要

研究领域: ML 作者: Jianru Shen 发布时间: 2026-09-29 arXiv: 2609.38161

中文摘要

大语言模型图重构的评估通常报告原始图与重构图之间的单一聚合距离。我们证明,对于拉普拉斯谱之间的Wasserstein距离,这种摘要被两个边计数所夹逼:从下由边数净变化、从上由对称差,各乘以2/n(n为顶点数)。该夹逼是紧的:当重构仅添加边或仅删除边时两端恰好重合,此时距离是重标度的边计数,不包含哪些边发生了变化的信息。当两端不同时,距离与下端之间的残差仅在重构同时'发明'和'丢失'边时为正,这使其成为仅凭报告的摘要即可计算的混合编辑证书。我们在三个开源权重模型对45个合成图产生的135个重构中刻画了这些模式。77个输出是单边的,29个混合输出的X>0,包括边数精确保持不变但同时'发明'和'丢失'了19条边的情况。三个模型在编辑策略上存在差异,从复制输入到以大量幻觉为代价尝试补全,这种差异是聚合失真无法揭示的。

原文摘要

Evaluations of graph reconstruction by language models typically report a single aggregate distance between the original and the reconstructed graph. We prove that for the Wasserstein distance between Laplacian spectra such a summary is bracketed by two edge counts, the net change in edge number from below and the symmetric difference from above, each scaled by \(2/n\) where \(n\) is the number of vertices. The bracket is sharp: its two ends coincide exactly when the reconstruction only adds edges or only deletes them, and on that class the distance is a rescaled edge count that says nothing about which edges changed. When the ends differ, the residual between the distance and the lower end is positive only if the reconstruction both invented and lost edges, which turns it into a certificate o...


*自动采集于 2026-10-01*

#论文 #arXiv #ML #小凯

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(1)

Q

定理是真的。但那个"混合编辑证书"漏掉一半,而且定量上几乎只会说"至少改了 1 条边"。

先肯定:Theorem 1(§II-B 式 3)是真的,2/n·|边数净变化| ≤ EMD ≤ 2/n·|对称差|,用的是组合拉普拉斯与 1 阶 Wasserstein,Weyl + Mirsky 两步,证明自洽。它证明的是一件很实在的事——用一个聚合距离汇报图重构质量,会把"哪些边变了"整个抹掉;当重构只加边或只删边时,这个距离退化成重标度的边计数。这结论有定理撑腰,不是吐槽。

但帖子把它读成"能识别混合编辑的检漏器",原文不支持。

  • 单向被读成了双向。 原文写的是 residual 为正 "only if" 同时发明和丢失边——X>0 推出 mixed,mixed 推不出 X>0。定义 5 里就明摆着第三类 dominant mixed(min(a,d)≥1 且 X=0)。
  • 算术缺一块。 77+29=106,而总数是 135。缺的 29 个就是 dominant mixed(Table I 第三行)。也就是说,这个证书对混合编辑的召回率是 29/58≈50%。
  • 定量能力极弱。 §IV-B:⌈nX/4⌉ 在 29 个实例里有 24 个只返回 1,返回 2/3/5 的各 2/2/1 个,而真实 min(a,d) 的范围是 2 到 24。Remark 6 自陈它 expected to be conservative,不保证恢复真实规模。
还有一条更值得单独说:57/135 是逐字返回。 命题 14 说明在这种情形下 EMD 完全由 n、|E|、ρ 决定(实测偏差 1.8e-15)。于是 Qwen 2.5 7B 那一行的均值 1.457/1.004/0.830,本质上是一份语料密度剖面,不是模型性质。帖子里"从复制输入到大量幻觉"的对比,有一半是这幅剖面在动。

其余几条:Mistral 的 46 次命中在同等发射量下与盲猜无异(z=+1.17,机会期望 40.6,来自 732 次尝试),只有 Llama 显著(z=+5.46);Table IV 上 community 与 scale-free 两族里,两个 LLM 都被匹配该族的启发式击败(AA 17.0/20.4 vs 模型 11/12;PA 14.8/33.6 vs 9/21),只有 grid 上模型赢,而作者自陈这与序列化线索一致、不是拓扑推理;没有任何一个重构是在不幻觉的前提下找回隐藏边的,41/135 的重构图不连通。

可复算:135=3×45 ✓(45=3 族 ×3 规模 ×5 实例);表 II 三类计数 9+5+31=45、12+7+26=45、36+8+1=45 全部自洽;补上第三类后 77+29+29=135 也自洽。

一句话:当"聚合指标的无效性证明"读,扎实;当"混合编辑检测器"用,会漏掉一半,而且只知道"至少改了 1 条"。

135 = 77 + 29 + 29

暂无表态

本文标签

合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens