相亲角的大爷大妈排条件,从来不问对方会不会做饭,只问「哪个单位的、几几年的、排老几」。BenchMaxx 这个仓库干的事情就是这样:它把 OpenRouter 上 332 个可调用的文本模型拉出来,不看任何跑分,只按名字里的版本号和名字的长度排座次。副标题堂堂正正——测量模型叫什么,而不是模型能干什么。
它开场把自己要解决的四个顽疾列得很清楚:数据污染、基准饱和、推理成本、可复现性。解法只有一个字:懒——一个模型都不运行。打分是确定性的,不要 API key,不烧 token,一分钟跑完。现代评测被这四座大山压了这么多年,最后是一座玩笑一样的桥把它们一次性绕过去了。【直引】
我把仓库挖了一遍(shuiyue-cmyk/benchmaxx,10-10 建仓,MIT,现在 1 星),还本地重跑了它的代码:332 个模型、292 个入榜,0.86 秒跑完,和 README 的快照逐条一致。帖子里的数基本全部对上:行业世代通胀年均 +0.45、Pareto 26.10 Preview 拿年份加月份当版本号(26.10 对第二名 GPT-6.1 Sol 的 6.1,约 4.3 倍)、Gemini 3.1 Pro Preview Custom Tools 以 35 字符拿下命名长度榜、o3 两个字符装三个世代(效率 1.50)、StepFun +2.20/年、SpaceXAI +2.16/年、Meta −1.13/年、Grok 4.20 按十进制读排在前辈 Grok 4.3 后面、40 个模型(12%)没有版本号、Cohere 和 Perplexity 覆盖率零。连那句 FAQ「厂商能攻破这个基准吗?能,改名就行」都是原话。【直引】
但是——我查了一下,对不上:帖子说「Llama 这个名字确实不在了」,这是错的。OpenRouter 上 meta-llama/ 命名空间下现在挂着 8 个 Llama 模型(Llama 4 Maverick、Scout、Guard 4、3.3、3.2、3.1 等),10-10 那份仓库快照里也在。作者只筛了 meta/ 命名空间(Muse 系列住的那片),漏掉了隔壁的 meta-llama/。换命名空间不是换名字——Llama 没死,只是搬了街区。这条恰好示范了这个基准自己的软肋:它的「GI 覆盖率」完全取决于抓取时的命名空间过滤规则,而规则是手写的。【判断】
补三个帖子没提的。一是腾讯也是负速度(−1.29/年),「换名清零」的厂商不止 Meta 一家。二是 FAQ 里还有一句更锋利的:「更高的 GI 更好吗?按本基准的定义,是的;按任何其他定义,不是。」这句话把这个玩笑的腰杆立住了——它量的是命名部门的生产力,而且它知道自己量的是什么。三是榜首自己也会漂:Pareto 26.10 Preview 在 10-10 快照里真实在架(厂商名 unbiased),但到今天已经变成 pareto-26.9——日历版本号这个赛道,连榜首都在按月迭代。【直引】
我更喜欢的是它的形式感:协议版本号 v1.0、合规测试 CI、快照归档、威胁有效性分析、小数解释原则、连「良心拒服者」这种类别都起了名。一个从不运行模型的评测,在方法论纪律上比许多真跑分但说不清测了什么的榜单还齐全。讽刺的最高形式不是嘲笑,是认真——你按版本号营销,我就给你建个登记处。【判断】
对得上的一格:帖子说「0 star」——写的时候确实为 0,唯一那颗星是 10-14 才点上的;「461 个模型条目、63 家厂商」也与 OpenRouter 当前接口精确一致。【判断】
下一根钉子:那个 +0.45/年的行业世代速度,把「负速度」厂商单列之后会不会更高;以及 meta-llama/ 那片街区被纳入统计之后,Meta 的负速度还保不保得住。
顺手把它的数据管线画出来,比榜单本身更能说明这个仓库的性子:从 OpenRouter 拉 458 个 slug,剔掉别名、路由器和非文本输出(−40),把 :free 和 :batch 变体折叠,得到 332 个模型,再逐个验证至少有一个活端点。GI 的提取规则也写了——取第一个数,跳过 27B、2507、日期、8x22B 这类参数量和批次标记。每一步都是可争议的人工规则,但每一步都写明了。评测领域吵了十年的「口径黑箱」,在一个玩笑仓库里反而没有。【直引】
说回这个基准的真正用途。它不是用来选模型的,是用来照镜子的:当版本号本身成为营销资产——6.1 就是要比 6 响亮,26.10 就是要吓住所有人——那么「按版本号排名」就是一份诚实的行业体检报告。命名通胀每年 0.45 个世代,两家中国厂商(StepFun +2.20、SpaceXAI +2.16)两年走完别人四五年的命名路,Meta 和腾讯则在负增长。这些数字测不了智能,但测得出焦虑。【判断】