模型在吃掉 harness,吃不掉的只有三样
造 Cursor harness 的人,在台上放了一张幻灯片:一个只给模型 shell 权限、旁边摆着全部 API 密钥的最简 harness。他特意叮嘱观众别拍照,然后问:这么简陋的东西,跑编程评测能跟精装 harness 打平吗?台下多数人觉得不能。
伯克利的研究说:能。
说这话的人叫 Jediah Katz,2025 年初加入 Cursor,自称是那里资历最老的 harness 工程师,今年随着 SpaceX 对 Cursor 的收购去了 SpaceXAI。10 月 20 日前后的 AI Engineer 大会上,他给了这个问题的两面答案:写代码这件事,花哨的 harness 已经不能让模型更聪明了;但 harness 比以往任何时候都更重要。
harness 到底是什么
这个词红起来还没多久。2023 年最火的头衔叫提示词工程师,2025 年年中改叫上下文工程师,今年年初,行业才统一叫出 agent harness 这个名字——指的就是 Cursor、Claude Code、Codex 这些东西在做的事:一个模型,外面套一套壳。
Katz 把这套壳拆成两层。底下是运行时:agent 主循环在哪儿跑、状态存在哪儿、中断了怎么接着干。这层像传统软件工程,扎实但不性感。上面是上下文与编排层:什么时候调哪个模型、给模型看什么、提示词和工具怎么配、记忆怎么压缩,还有一堆用户根本不知道的小把戏。大家平时聊的「harness」多半指这层。
这套壳曾经非常忙碌。年初的 Cursor 还在秀肌肉:用一个长跑型多模态 harness 编排一大批 agent 和机器,从零写出一个浏览器——贵到为了做这个演示把自家服务搞挂了一两次。
然后风向就变了。
「死了」的证据
宣布 harness 已死的人,阵容不小。Anthropic 在同一个活动里讲了他们删掉了 Claude Code 的大部分系统提示词——「约 80%」这个数出自 Claude Code 创造者 Boris Cherny 在 YC Startup School 的演讲,删完在编程评测上没有可测量的损失。YC 的 Garry Tan 判断 harness 会淡出,最后只剩技能。Katz 自己的团队也在删:他们曾经养一个小模型专门负责把代码编辑应用到文件里,因为当时的前沿模型做不好这件事;还写过一堆教模型怎么探索代码库、怎么自查的指令。模型变聪明后,这些全删了。
最硬的证据是研究。伯克利和 Arena 的一项研究让七个前沿模型跑在包括 Pi、Codex、Claude Code 在内的一批 harness 上,发现对更新更聪明的模型,换 harness 在 SWE-bench Light 上成绩几乎没有差别——但成本差得远,最多差到五倍。另一个研究算得更细:同一个模型,在 Claude Code 里比在 Pi 里贵一倍,成绩只差 1.1%。Apple 和 EPFL 的团队在 MLEBench 上得到同样的结论:专门的 MLE harness 带不来多大提升。
「花哨的 harness 在今天已经不再增加编程智能。」这句话从 Katz 嘴里说出来,分量和别人不一样——他是造这个的人。
数据飞轮
为什么会这样?Katz 给了一个解释,也是整场演讲最核心的概念:数据飞轮。
harness 把更难的编程任务拉进射程,于是更多用户能拿 agent 去干这些活,干活的轨迹变成数据流回模型实验室,模型把这些技能原生学会了。模型学会了,harness 就把自己当年打的补丁一个个删掉。飞轮转完一圈:harness 变瘦,模型变强。
换句话说,harness 在用自己的工作,消灭自己的工作。你今天觉得理所当然的能力——探索陌生代码库、连续干几个小时不跑偏、跑测试自查——几年前都住在 harness 里,靠提示词和小模型硬撑着。现在它们搬进了权重。
Grok Bot 在把护栏加回去
故事到这里还没有完。有趣的是,Cursor 这边一直在删,SpaceXAI 的 Grok Bot 那边却一直在加——加新提示词,加新护栏。
原因不复杂。Grok Bot 的 harness 不是为编程设计的,它管的是一个「自主同事」:长期存在的协调 bot 带着一队干活的 agent,像雇了一个亲自管策略的律师,把活分给一队律师助理。做幻灯片、订差旅、汇报沟通、什么时候该问人什么时候该动手、怎么记住你的工作习惯——这些任务模型还没啃下来,眼下正是 harness 把它们变得可行。
这就补上了数据飞轮的最后一环:当一项能力被模型商品化之后,是 harness 去打开下一片新大陆,把飞轮再推起来。编程之外,Katz 还举了软件工厂的例子:bug 报进渠道,自动化立刻分诊,云端 agent 接单去修,修完放出前后对比视频证明,上线之后还有另一个 agent 盯着生产环境。一层 harness 编排着一群 agent——他自己叫它 meta harness。
吃不掉的三样东西
那模型再聪明下去,harness 还剩什么?Katz 说了三样,恰好都在那层上下文编排之外。
在哪儿跑。agent 干活已经从几分钟拉长到几天,一台会合盖的笔记本电脑撑不住这件事,自主同事必须跑在云上。他给了一个可打脸的预测:六个月内,九成的 agent 工作将不在笔记本上跑。
能碰什么。简陋 harness 配上全部密钥确实能解题,但没人愿意一觉醒来发现一个一万美金的 API 账单,或者一次收不回来的灾难性操作。权限要按人、按 agent 收窄,护栏要确定性——这不是模型能力问题,是信任问题。
花多少钱。伯克利那两份研究真正教的事在这里:换 harness 成绩几乎不动,成本能差五倍。成绩是模型的,账单是 harness 的。Katz 最近一个月就在干这个:调缓存命中率、token 效率、模型搭配,把 Grok Bot 的成本和速度压下来,质量不掉。
还有一个细节值得单独讲。harness 里那些为模型补洞的临时护栏,他们内部叫 shim:比如 Grok Bot 回复太慢,就轻轻推它一把「用户还在等」。这类东西他们全部登记在册,模型每用一次记一次;哪个 shim 哪天不再被触发,就有一个 bot 自动提 PR 把它删掉。飞轮不只是个比喻——他们给自己的补丁装了退役机制。
所以 harness 死了吗?让模型更会写代码的那部分,确实死了,死因是模型把它吃进了权重。但替 agent 开新大陆的那部分、管信任的那部分、管账单的那部分,才刚刚开场。用 Katz 自己的话收尾:昨天的 harness 或许死了,明天的那一套万岁。
讨论回复
加载中...正在加载回复...
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。