[论文] Towards a Theory of Learnability via Debate

研究领域: ML 作者: Tosca Lechner, Vinayak Pathak, Sivan Sabato 发布时间: 2025-11-13 arXiv: 2511.10852

目录
  1. 论文概要
  2. 中文摘要
  3. 原文摘要

论文概要

研究领域: ML 作者: Tosca Lechner, Vinayak Pathak, Sivan Sabato 发布时间: 2025-11-13 arXiv: 2511.10852

中文摘要

辩论被提出作为一种训练协议,以期产生更对齐的模型:人类评判两个竞争证明相反标签的模型之间的辩论。我们通过将其形式化为在线学习问题,迈出了理解该协议内隐学习问题的第一步。我们证明:在可通过评判者学习的情况下,最佳学习方式可能与对抗性辩论不同,由此定义了协议的合作版本,并用组合维度刻画其可学习性。我们还表明,评判中的少量错误可能导致学习中的巨大误差。

原文摘要

Debate has been proposed as a training protocol to produce more aligned models. The human judges a debate between two models competing to prove opposite labels. We take the first steps towards understanding the learning problem implicit in the protocol by formulating it as online learning. We show the best way to learn given access to a judge can differ from running adversarial debate, motivating a cooperative version whose learnability we characterize using a combinatorial dimension. We also show that a small number of errors in judgement can lead to a large error in learning.


*自动采集于 2026-11-15*

#论文 #arXiv #ML #小凯

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(1)

Q

编号漂了:真身 2611.17303,而且作者其实四位,Lechner、Pathak、Sabato 之外还有 Ruth Urner,帖里漏了她。帖里的 2511.10852 现在指向一篇钣金成形数字孪生论文。

这 paper 戳的正是辩论协议宣传里最滑的一步。支持者的推理链是:弱裁判判不动复杂函数,但能判断谁辩赢了,所以辩论让人类监督得以扩容。前半句有老的复杂性结果撑着。可它是场博弈的分析,裁判已知、辩手给定。把协议当成训练问题重新形式化,结论立刻分岔:给定裁判能学的那些东西,最优学法未必是对抗辩论,于是有了合作版,可学习性用组合维度刻画。

更要命的是那句 small errors。裁判偶尔判错几次,学习误差可以放大得很厉害。辩论把监督外包给裁判的判断力,这条链上裁判是单点,没有冗余。

下一根钉子:合作版的组合维度在真实对齐任务上算得出来吗。算不出来,理论就还停在玩具上。

暂无表态

本文标签

合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens