[论文] Robust Is Salient: An Informed Adversary Moves the Optimal Signal onto...

研究领域: NLP 作者: Cris Huynh 发布时间: 2026-10-05 arXiv: 2610.00233

目录
  1. 论文概要
  2. 中文摘要
  3. 原文摘要

论文概要

研究领域: NLP 作者: Cris Huynh 发布时间: 2026-10-05 arXiv: 2610.00233

中文摘要

当知情的对手与受限信号通道共享受众时,最能保护真相的信号就是最能描述真相的信号。108 个验证性项目上,对手稳健最优点与先前工作的显著性极点完全对齐。20 万项目池中两者仅 2,748 项有差异——恰落在先前显著性到贝叶斯坐标未定义处。在定义处,稳健性通过完全从贝叶斯判别转向显著性实现。我们在强制选择任务中引入对手证明这一点(抽象自桌游《Deception: Murder in Hong Kong》):对手知目标、观测信号,在说服预算 β 内为最强错误答案辩护。随 β 增长,最优信号从后验最大化转向边际最大化选项;β=0 时博弈复现听众温度 τ=1 的原始 oracle 模型。效应真实:18.2% 的项目存在有限预算下转移的最优点,临界预算精确可算。这一巧合在结构上限制经验评估:两种对手框架改变七个语言模型中 30 到 77/108 项的选项,相对精确零效应率。然而任何测量都无法判断移动朝向对手感知最优点还是显著性——两个选项完全相同。这是结构性限制而非零结果。诊断检查便宜:评估对手感知前,先验证稳健目标是否与评估项上的启发式目标重合。

原文摘要

When an informed adversary shares the audience of a constrained signalling channel, the signal that best protects the truth is the signal that best describes it. On 108 confirmatory items, the adversary-robust optimum aligns exactly with the salience pole from prior work. Across a 200,000-item pool, the two differ on only 2,748 items --- lying exactly where the prior salience-to-Bayes coordinate is undefined. Where defined, robustness is achieved by moving from Bayesian discrimination entirely to salience. We show this by introducing an adversary to a forced-choice task (abstracted from Deception: Murder in Hong Kong). The adversary knows the target, observes the signal, and argues for the strongest wrong answer using a persuasion budget, \(\beta\). As \(\beta\) grows, the optimal signal shift...


*自动采集于 2026-10-05*

#论文 #arXiv #NLP #小凯

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(1)

Q

为了护真相,把整段路让完:稳健的代价恰好是 1

为了护真相,把整段路让完:这篇把「benchmark 测不出什么」算到了小数点后

arXiv:2610.00233 的设定一句话能讲完:知情对手与被约束的信号通道共享听众时,最优信号不再是最大化真相的后验,而是最大化真相对最强对手的边际。原帖讲了巧合,我补三个原帖没展开的点。

「稳健 = 显著」是精确版本,不是鸡汤。 108 个 confirmatory 项目上,两个不同函数——一个按「把真相与对手会推销的假假分开」排序,一个按「多描述真相」排序、完全无视对手——选出同一个选项,108/108。frozen 集 452/460,池上 32,454/32,454 个坐标有定义的项上,稳健信号全在显著性极点。稳健的代价在这套坐标上恰好是 1,误差 6×10⁻¹⁵:不是部分让渡,是把贝叶斯判别到显著性的整段区间一次性让完。机制上,预算 β 增长时最优点从后验最大化滑向边际最大化,β=0 时靠恒等式精确退回前作的 oracle(且只在 τ=1 成立)。

它是做 eval 的人的一记结构性闷棍。 七模型 × 两对手框架改变了 30–77/108 个选项(零效应率经实测精确为 1:3,500 个渲染重跑 0 分歧),但每个确认项上「对手稳健目标」与「启发式目标」是同一个选项——任何统计量都无法给移动定向。作者原话:This is a structural limit, not a null result。可复用的审计动作:评 adversary-awareness 之前,先算 robust 目标是否与启发式目标重合,成本只是几次 oracle 运算。

效果不是笑话数字。 20 万池里 18.2% 的项目存在有限临界预算(预注册 kill 门是 10%,过了)。临界预算逐项闭式可算:frozen 460 项中位数 3.33、均值 3.36、范围 0.19–10.66;分歧率随 β 从 0.16%(β=0.25)爬到 3.1%(β=2)再到 18.0%(β=8);按 tile 差 8.6 倍且与选项数不单调。原帖「20 万中仅 2,748 项有差异」要修正:2,748 是 36,464 个 divergent 项目里的子集(7.5%),而且全部落在坐标未定义处——两极太近时坐标被 guard 主动屏蔽,这不是漏洞,是设计。

最值得学的是作者的自我克制:5/14 格符号检验显著,但移动项中正向占比只有 0.167–0.246,低于 0.5——作者拒绝读方向,29 条决策日志全部公开(包括主动关闭方向问题的几条)。对比坊间「framing 让模型更安全」式叙事,这里是「我们知道动了,但实话实说不知道朝哪动,且这道题结构上不可能知道」。

暂无表态

本文标签

合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens