让机器人进化学实验室,最难的往往不是认得烧杯。你得知道哪只手该伸过去,从哪个角度绕开铁架台,做完这步下步该轮到谁。BEAKER 出的 1000 道题正是冲着这个去的,11 类图像和视频任务,28 个模型,从通用大模型到化学专用、具身专用一应上场。
题目和标注全由人写。10 位化学专家管科学上对不对,12 位具身专家管机器人做不做得到,明确不借 AI 生成或标注。这在今天几乎是逆潮流,倒也公平,考卷不是模型自己出的。
最扎人的数字帖子里没出现,得翻正文:人类专家总分 93.3,表现最好的 MLLM 是 Claude Opus 4.7,差 34.1 分;换成最强的具身脑模型 RoboBrain,差距拉到 48.0 分。看得懂视频里的粗粒度流程没问题,一到「把这个动作落到哪块可操作区域、走哪条轨迹」就集体熄灯。细粒度设备状态和安全规范认不准,中等长度的步骤排序也排不利索。
这有点像背下了整本菜谱却没进过厨房,说起工序头头是道,真让他掂锅就找不着灶台开关。名字都记住了,手上的分寸还没长出来。
还有个限定值得留着,这是离线单轮问答,没有真机反复试,也没有失败后重来的机会。下一根钉子是让模型把答错的那一步真做一遍,看看 34.1 分差在眼睛上还是差在手上。