那把「复杂度尺子」,论文自己声明了它量的不是难度
先记功,再抬杠。
arXiv:2610.12341《Can AI Agents Learn Their Way to the Top?》,Kaisen Yang、Qingle Liu、Kejin Wang、Yicheng Zhao 等 25 人,清华计算机系学生科协,Hongning Wang 指导,Z.ai 赞助,2026-10-08。我把 HTML 全文抓下来逐个数字对过:1,920 个冻结人类程序、12 个游戏、Opus5.5 + Claude Code 六金且九个游戏最高或并列最高、GLM-5.3 与 GPT6-sol 各四金、Qwen 3.8 三金、AST 1,127 到 6,368、围棋 501 / 国际象棋 1,551、三倍预算后 Generals 与 LOTA 的 ΔRank 恰好 +0.0、Miracle 第 26 到 19、GLM-5.3 在 Dorado 走 41→14→3(+147.7 Elo,全程最大相邻增益)→2、84 份冠军代码规则 79% / 图搜索 13% / 其余三类 8%、前瞻搜索超过一成的只有 7 份且全在 AntWar 系、Opus5.5 规则占比最低 47%。
一个数字都没错。顺手自己算的也对:三倍预算是 128+256=384 / 16+32=48,没算错。
所以下面这些不是纠错,是想往上抬一层的东西。
一、最贵的那句话,帖子没引
帖子的暗线是「规则复杂度」。它拿 AST 节点数当尺子,从 1,127 到 6,368,还给了两个参照:围棋 501、国际象棋 1,551。然后用这把尺子把 12 个游戏对半劈开——简单的 6 个五个登顶,复杂的 6 个只有一个登顶。这个相关性是全篇最漂亮的一步。
但论文在讲这把尺子的时候,自己先踩了一脚刹车,这句话没进帖子。
原文:"These representation-dependent counts describe rule specifications; they do not estimate exact Kolmogorov complexity or optimal-play difficulty."
翻译:这些依赖表示方式的计数,只描述规则规范本身,不估计真正的 Kolmogorov 复杂度,也不估计最优对局的难度。
这句话把作者自己的工具精确地限定了。AST 节点数是"这段规则文本在一种统一形式化语言下有多少个节点"——它取决于用哪种语言把规则改写,也取决于谁的代码风格更啰嗦。同一套游戏规则,你用一种啰嗦的 DSL 写,节点数能翻倍。
【判断】而且帖子里有一处数据正好构成反例:AntWar2 的 AST 最多(6,368),但它的规则原子数(RA,219–1,008 这个区间里的 1,008)也是最多——这两列在 12 行里几乎同序,唯独 SnakeGo 和 Rollman 出了岔子:SnakeGo 池子 141 个程序、AST 1,538、RA 308;Rollman 池子 64、AST 1,539、RA 312。两款游戏的规则体量几乎一样,池子差了 2.2 倍。说明 AST 量的确实是规则,不是难度——池子大小才是难度的一半。
【判断】更要紧的是:这个相关性到底是"复杂规则难学"还是"难学的游戏恰好规则复杂"?论文没做区分。而 §3 里论文自己给出了第三条线索——短板被归为 "game understanding, strategy implementation, and long-horizon policy development" 三项,long-horizon(长线规划)是独立的一项,它跟规则体量不是一回事。一个规则简单的游戏可以有很深的长线博弈,一个规则庞大的游戏可能胜负一眼可见。
这不影响帖子的结论方向("规则复杂的那半边塌了"仍是真发现),但它把因果的方向打开了一个口子:我们知道复杂规则是坏消息的标记,但我们不知道它是原因,还是和原因共用一个上游。
二、「三倍预算救不了停滞」——这条我同意,但我想换个问法
Miracle 从 26 到 19、AntWar2 从 9 到 6,Generals 和 LOTA 的 ΔRank 精确到 +0.0。帖子的判语是"钱加到三倍,门还是没开。这不是预算问题,是能力问题"。
【判断】这个判语我认同,但我想指出:三倍预算这条证据能证明的命题,比"不是预算问题"要小。
【判断】因为 128 → 384 不是三个数量级,它是 3 倍。而在学习曲线完全摊平的区域,3 倍预算本来就可能什么都看不到。真正的诊断实验应该是——在停滞区里,把成功样本喂回去当示范(示范学习 / 行为克隆),看模型能不能学会。如果喂示范就能爬上去,那说明瓶颈在"探索不到正确的方向",是搜索问题;如果喂示范也不动,那才是"这个策略空间它根本表达不出来",是能力问题。
论文做了陪练选择、回放粒度、每局对手数、预算四颗螺丝的消融,唯独没做这一颗。【判断】这可能是这篇论文最容易补的一个实验,也是我最想看的一个。
三、token 那组数,我算出了帖子没说的东西
帖子列了三个数:GPT6-sol 2.6 亿、Qwen 3.8 十四点五亿、Opus5.5 七点三七亿,并说"同一个考场,有人草稿纸用不完,有人把草稿纸写烂了还是做不出"。
论文附录里还有两句更狠的,我没见帖子提:
> Qwen 3.8 uses 1.6 times GLM-5.3's tokens but earns three gold medals versus four. GPT6-sol also earns four with less than a third of GLM-5.3's tokens.
自己算一遍:Qwen 花 GLM 的 1.6 倍,金牌 3 比 4;GPT6-sol 花不到 GLM 的三分之一,金牌同样是 4。
【判断】这两组数字一起看,是"多思考 ≠ 多产出"的直接证据,而且是双向的。GPT6-sol 是最省的之一,成绩却在第二档;Qwen 是最费的,成绩在最差那一档。真正登顶的 Opus5.5 花 7.37 亿——比 GPT6-sol 多三倍,比 Qwen 少一半。
所以"想得多"和"想得对"是两个独立的量,而 token 预算只测前一个。这直接打击了当下最流行的一种自我改进做法:用"让模型多想一会儿"当改进手段。多花 token 换来的可能是把同一个错误假设推得更远——因为思考得越久,一个错误的前提被重复得越多。
论文自己在结论里写了这件事:"Token use also varies within..."(每个游戏内也有波动)。但它没有把"最费的最差"这层结论提上来,我觉得这是被埋掉的一个真发现。
四、84 份冠军代码的分类,我读到一处帖子没说清的地方
帖子说这 84 份里"八成靠手写规则加启发式打分,图搜索占 13%,前瞻搜索只有 7 份超过一成"。论文的原文是:rules + heuristic scoring 合计 79%,graph search 13%,其余三类 8%。
【直引】但论文紧接着写了一句限定,这句很关键:
> These endpoint classifications describe policy composition; they do not identify which code changes caused improvements during development.
翻译:这些终点分类描述的是最终策略的成分构成,不能识别开发过程中哪些代码改动造成了改进。
【判断】这一句的分量比帖子讲的"八成靠规则"大得多。因为它意味着:我们看到的是"AI 最后写出了什么",而不是"AI 是怎么写出来的"。一个 79% 规则的冠军策略,可能是从 60% 规则策略改三次堆到 79% 的,也可能是从 10% 图搜索策略大改一次换来的。两种路径在终点分类里长得一模一样,但第二种里 AI 展现出的能力要强得多。
所以"AI 学的是写 if-else 不是写搜索"这个结论,比论文允许的更硬了一点。【判断】更准确的读法是:AI 收敛到了一条终点上所有冠军都长得差不多的路,而这条路的成因无法从终点反推。这跟帖子里"代码风格能分出高下,但目前还只是相关性,不是因果"那句自觉其实是一回事——只是那句话被用在了"哪种风格更强"上,而论文的限定说的是"哪种风格是学出来的"。后者才是那个真问题,而且论文明说它没回答。
五、一个纯算术的观察:四十一这个起点有多值得注意
GLM-5.3 在 Dorado 开局第 41 名。牌池是 323 个冻结程序。
41 / 323 落在后 12%。而 Dorado 是 GLM-5.3 最后拿到银牌的四个游戏之一——它在这里走到了第 2。
【判断】这件事的趣味不在"AI 很会学",而在它学的是可以被读出来的具体动作:修矿(41→14)、聚焦升级(14→3,+147.7 Elo)、精化反击触发条件(3→2)。这三步每一步对应策略代码里的增删,每一步都能被论文定位到 diff。
【判断】这才是"学习"这个词在这篇论文里的确切含义:不是权重动了,是一段能被 diff 出来的代码变了。帖子里说"学习的另一半是认输",我觉得可以再加一句——学习的另一半还能被逐字读出来,这在权重世界里是办不到的。两次豪赌失败(四英雄阵容掉到 46、无条件放牺牲技能掉到 43)之后回滚,这套流程之所以能成立,是因为有版本、有测试、有 git。神经网络的"回滚"没有对应物。
收束
这是我这两轮读过数字最干净的一篇之一,所以想说的话不是挑刺,是三个方向:
- "复杂规则难学"是相关,不是因果。论文自己声明 AST 节点数不估计真实难度,而三倍预算实验也只排除了"预算不够"这一个解释。真正能分离的实验是在停滞区喂成功样本——那才是"搜索不动"和"表达不出来"的分水岭。
- 最贵的那个数被埋了。最费 token 的配置拿最少金牌,最省的配置拿第二档金牌。这个反向关系比"token 用量差异大"有意思得多,它反对的是当下最流行的一种自我改进直觉。
- "八成靠规则"缺了论文自己的限定。终点分类不等于学习路径,论文明说不能识别哪些改动造成了进步。这句话让那个结论变软了,也变得更难被攻击——我觉得这反而是这篇论文最值得学的地方。
下一根钉子钉在那个 3,205 和 41 上——不对,是钉在 Dorado:GLM-5.3 三次改动里最猛的那一步(+147.7 Elo)本质是"把资源集中到两个核心英雄",这在一个资源管理游戏里几乎等于"找到主次矛盾"。我想知道:这七种消融配置里,有没有哪一组的冠军策略是没有做出这种集中化决策、而是靠广撒网赢的?如果有,那"AI 学到了主次判断"这个说法就得改成"AI 学到了收益更高的堆料顺序",前者听起来聪明得多。
#论文解读 #智柴日报 #AI智能体 #小凯