Environment Duels:九大模型互相出题考对方,谁是最强出题人

想象把九个顶尖 AI 模型拉进一个房间,规则很简单:每个人都要给其他人出一道交互式难题,同时也要去解别人出的题。出题人有一个特权提示可以给解题者,目标是让"没有提示就做不出来、有提示就做得出来"的题。一轮之后,出题人看到所有人怎么做的,可以修改自己的题再来一轮。

目录
  1. 一场九人桌游
  2. 不只是问答,是交互环境
  3. 三个维度,没有总分
  4. 核心发现:最强解题者不是最强出题人
  5. 反击机制:一轮共进化
  6. 更大的图景:模型生态系统的微缩模型
  7. 对 AI 研究的启示
  8. 诚实评价

一场九人桌游

想象把九个顶尖 AI 模型拉进一个房间,规则很简单:每个人都要给其他人出一道交互式难题,同时也要去解别人出的题。出题人有一个特权提示可以给解题者,目标是让"没有提示就做不出来、有提示就做得出来"的题。一轮之后,出题人看到所有人怎么做的,可以修改自己的题再来一轮。

这不是思想实验,这是 Environment Duels——一个让九个前沿 LLM 互为出题人和解题者的"角斗场"。

九个参赛者:Claude-Opus-5、GPT-5.6-Sol、DeepSeek-V4.1-Flash、GLM-5.3、Kimi-K3、Inkling-Small、Qwen3.8-27B、Grok-4.6、Gemini-3.8-Flash。90 个交互式环境,12960 个 episode。

不只是问答,是交互环境

Environment Duels 的"题"不是一道文字问答题。它是一个可执行的交互程序——有隐藏状态、有奖励函数、有动作预算。解题者需要探索、行动、适应,在多轮交互中找到解法,而不是一次性回答。

这比静态问答丰富得多。静态问答只测试"知不知道",交互环境测试"能不能学会"。

每个出题人还要提供一个特权提示——一个能指出正确方向的暗示。出题人的目标是让"没有提示就做不出来、有提示就做得出来"的题。这意味着好的出题人需要: 1. 设计足够难的任务,让强模型也会失败 2. 写足够好的提示,让失败者看到后能做对 3. 校准难度,让任务既不是太简单也不是不可能

三个维度,没有总分

Environment Duels 不给一个综合分数。每个模型在三个独立维度上被评分:

解题率(Solve Rate):作为解题者,能解多少别人的环境? 难度(Difficulty):作为出题人,你的环境让多少人做不出来? 提示提升(Hint Lift):作为出题人,你的提示帮了多少忙?提示提升 = 有提示的通过率 - 无提示的通过率。

提示提升的设计特别精巧。它不是简单的"有提示比没提示好多少",而是分解为"修复"(没提示失败、有提示通过)减去"破坏"(没提示通过、有提示失败)。一个提示如果既不改变什么也不破坏什么,分数为零;如果帮了 5 个人但害了 5 个人,分数也是零。好的提示是帮人而不害人的提示。

核心发现:最强解题者不是最强出题人

这是 Environment Duels 最反直觉的结论。

你可能以为最强的模型(比如 Claude-Opus-5 或 GPT-5.6)在两个角色上都最强——既能解题也能出题。但数据不是这样。

解题率和出题能力是不同的技能。最强的解题者不是最强的出题人。更具体地说:较小的模型在出题上更有优势——它们从其他人的玩法中学到更多,它们的反击环境更难,提示更有用。

DeepSeek-V4.1-Flash 写出了九个模型中最难的环境。这和它的开发者报告一致:DeepSeek 在训练中大量使用了合成环境。这独立验证了"出题能力是训练可以构建的技能"。

反击机制:一轮共进化

Environment Duels 不是一轮定胜负。第一轮之后,每个出题人看到其他人怎么玩的——具体来说,看到三对匹配的轨迹(同一解题者在同一 seed 上有提示和无提示的完整尝试)。然后出题人可以修改环境、修改提示,或两者都改,但必须保持任务、接口、奖励契约、动作预算和 seed 映射不变。

这是一轮共进化:出题人适应解题者,解题者面对修改后的环境。

效果显著:无提示通过率从 84.9% 降到 78.5%,提示提升从 6.3% 升到 13.4%。出题人看到别人的玩法后,确实能设计出更难、更校准的环境。

更大的图景:模型生态系统的微缩模型

Environment Duels 不只是一个基准测试。它是一个模型生态系统的微缩模型。

在真实世界中,前沿 LLM 互相影响:一个模型写的合成数据被另一个模型训练;一个模型出的题被另一个模型学;一个模型的输出出现在公开网络上,被下一个模型的训练分布吸收。模型在共进化——每个模型的训练分布都被其他模型写了什么所塑造。

Environment Duels 在受控条件下复现了这个动态:

1. 传递性:头对头结果是传递的——如果 A 胜 B、B 胜 C,那么 A 胜 C。这产生稳定的排名。 2. 独立收敛:不同的出题人独立地设计了相似的环境结构。就像生物学中的趋同演化——不同物种在相似环境压力下发展出相似形态。 3. 提示提升预测训练收益:这是最惊人的发现。用一个 Qwen3.8-27B 做学习者,在各个出题人的环境上做 RL 训练。学习者在某个出题人环境上的提示提升,预测了训练后它在 held-out 基准上的提升。

第三点意味着:一个出题人的提示有多有用,直接预测了它的环境作为训练数据有多好。出题能力和教学能力是相关的——即使学习者不是出题人自己家族的模型。

对 AI 研究的启示

1. 评估模型不能只看解题

当前大多数基准只测解题能力。但出题能力是独立的技能,而且可能是更重要的技能——当模型足够强,人类出的题不够用时,瓶颈从"能不能解"转移到"能不能出"。

2. 合成数据的来源比数量更重要

如果不同出题人的环境质量差异很大,而且这个差异可以用提示提升来预测,那么选择"好的出题人"比"更多的出题人"更重要。这对合成数据策略有直接影响。

3. 模型生态系统需要被研究

我们习惯把每个模型当作独立个体来评估。但模型在互相影响——训练数据、合成环境、公开输出。Environment Duels 提供了一个框架来研究这种互相影响。

诚实评价

Environment Duels 有局限:

  • 一轮共进化太少:只做了一轮反击。多轮共进化会不会出现更复杂的动态(比如出题人和解题者进入军备竞赛)?不知道。
  • 交互环境的类型受限:所有环境都是程序化的、有明确奖励的。真实世界的任务(科学研究、创意写作)没有这么干净的验证信号。
  • 九个模型的快照:模型在持续更新。这个排名在三个月后可能就过时了。
但 Environment Duels 的框架价值在于:它把"模型互相影响"这个模糊的现象变成了可测量、可重复的实验。未来每出一个新模型,都可以拉进这个角斗场,看它在出题和解题两个维度上排在哪。


论文:arxiv.org/abs/2610.30116 代码:github.com/LLM-Duels/EnvDuels

👍 1

想参与讨论或点赞?登录后使用完整功能

讨论回复(0)

暂无回复,登录后可参与讨论
合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens