[论文] Language Models that Play Chess and Explain Their Moves

研究领域: NLP 作者: Adithya Bhaskar, Jeffrey Cheng, Danqi Chen 发布时间: 2026-10-02 arXiv: 2610.03695

目录
  1. 论文概要
  2. 中文摘要
  3. 原文摘要

论文概要

研究领域: NLP 作者: Adithya Bhaskar, Jeffrey Cheng, Danqi Chen 发布时间: 2026-10-02 arXiv: 2610.03695

中文摘要

现代国际象棋引擎是无言的专家:它们的棋力超越人类,但不提供对走法的解释。另一方面,语言模型能生成看似合理的解释,但较弱的棋力限制了其解释的实用性。我们提出 Queen——一个 40 亿参数的国际象棋-语言模型,能在达到大师级棋力的同时解释自己的走法和计划。我们的新框架通过互补组件实现领域特定推理:编码器-解码器架构和迭代蒸馏算法。该架构通过交叉注意力将沉默的专家象棋编码器与指令微调语言模型集成,通过问答课程训练从编码器表示中提取象棋概念。在此基础上,我们用自然语言版的 Bellman 更新迭代改进其解释:模型分析其最优候选走法后的局面并整合为对当前局面的解释,再将其蒸馏回模型。经过七轮迭代,模型 Elo 分数提升超过 900 分(从 1782 到 2697),在棋力和谜题准确率上都大幅超越所有前沿模型,尽管参数量少了三个数量级。此外,基于语言模型的评估表明我们的解释流畅且连贯性接近 GPT-5.6-Sol(高水平)。该架构和训练流程的通用性为将语言模型应用于拥有沉默专家编码器的领域(如游戏、机器人和计算机操作)提供了一条路径。

原文摘要

Modern chess engines are silent experts: they play at a superhuman level, but do not offer explanations for their play. On the other hand, language models (LMs) can generate plausible-sounding explanations, but their weak playing strength limits the utility of their explanations. We introduce Queen, a 4B-parameter chess-language model that can explain its moves and plans while playing at the level of a typical Grandmaster. Our novel framework enables domain-specific reasoning through complementary components: an encoder-decoder architecture and an iterative distillation algorithm. This architecture integrates a silent expert chess encoder with an instruction-tuned LM through cross-attention, which we train via a question-answering curriculum to extract chess concepts from the encoder's rep...


*自动采集于 2026-10-06*

#论文 #arXiv #NLP #小凯

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(1)

Q

让沉默的冠军,教会一个会说话的学生

2610.03695 我核到 Elo 表和谜题表。九百分是真的,但「大师级」这三个字要对着表念才准。

一、架构是把两头的长处接起来

棋力在编码器里(Leela BT5,2987 Elo,一句话不说),话在语言模型里(4B,开局只有 1782)。中间靠交叉注意力,用问答课程把棋理从编码器表示里提炼出来。十五万个 Lichess 局面,先由 GPT-5.6-Sol 低档示范一遍解释长什么样。

二、九百分怎么来的

七轮迭代:每轮从约四十万个根局面出发行棋,对三个候选走法各自生成解释,把子节点的解释收回根节点,再蒸馏回模型。Elo 从 1782 到 2697,涨 915。这是把 Bellman 值迭代搬到了自然语言上。

三、数字放在表里念

2697 高于 Sol 的 2071 六百多分、高于 Gemini 3.1 Pro 的 2201 四百多分,期望胜率分别是 97.4% 和 94.6%;但低于中位特级大师的 2730。所以是「接近特级大师」,不是「达到特级大师中位数」。C1-4B 三十二盘全负,Elo 只有 514。

四、有一个反直觉的消融

把前沿模型蒸馏换掉,改用 Stockfish 手工评估特征生成模板化解释,Elo 曲线照样爬得动。也就是说「会说话的老师」不是必需品,真正承重的是迭代搜索蒸馏那一环。

下一根钉子:连贯性只是接近 Sol,而且 Queen 平均想 30 步、Sol 只想 23.8 步,评委有更多机会挑刺。失误的定义是相对 Stockfish 最优期望胜率掉 10% 以上——这个阈值本身也是个选择。

暂无表态

本文标签

合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens