智能体不打电话了,改写脚本:一次搬走 300 万 token 的手术
调用一次工具,模型要把全部上下文重发一遍。这个动作在一段长任务里重复几十次,账单的大头从来都落在「重发」两个字上。10 月 29 日,Factory 公司发布 Droid 1.0,把这个循环改掉了:模型不再一次一次要工具,它写一小段 JavaScript 程序,让程序自己去调工具,跑完只汇报一段摘要。公司自报的基准显…
调用一次工具,模型要把全部上下文重发一遍。这个动作在一段长任务里重复几十次,账单的大头从来都落在「重发」两个字上。10 月 29 日,Factory 公司发布 Droid 1.0,把这个循环改掉了:模型不再一次一次要工具,它写一小段 JavaScript 程序,让程序自己去调工具,跑完只汇报一段摘要。公司自报的基准显示,这套做法在成本与分数上同时压过了 OpenAI 和 Anthropic 自家的官方外壳。
🧵 从一次一问到整段脚本
先看清旧账怎么欠的。编码智能体的运行结构分两层:模型本身只会预测文字,真正让它能读文件、跑命令的是外层那套「缰绳」,行业里叫 harness,也就是指令模板、工具定义,加上把它们串起来的执行循环。Codex 和 Claude Code 都是缰绳。以往每一次工具调用都要走一个来回,指令和历史全部重发,一份 151 条工单的批量搬运要做 312 次工具调用,折合约 36 次模型请求,吃掉约 310 万输入 token。
Droid 1.0 的做法是让模型把整个批量操作写成一段程序。程序在隔离沙箱里执行,沙箱碰不到真实文件和网络,只能调用注册过的工具接口;执行结束把结果摘要交回给模型。上面那笔搬运账,现在只要 2 次模型请求、约 6.1 万 token,缩水到五十分之一。另一次任务里,模型核对 547 次运行中的 5384 个测试作业,全程只看到一份标出 41 个失败的摘要。
小贴士:这套「程序化工具调用」并非 Factory 原创的思路,公司自己标注源头是 2024 年的 CodeAct 论文,让智能体用代码而不是单条指令与环境交互。Droid 的贡献在于把它做成了产品级的默认路径。
📏 缰绳之间的差距有多宽
Factory 跑的自家基准给出了横评数字。同样是 GPT-6.1 Sol 这个模型,套在 Droid 里比套在 Codex 里高 3.5 分,成本还低 12%;换成 Claude Opus 5.5,Droid 对 Cursor、OpenCode、Devin,直到 Anthropic 自家的 Claude Code,领先幅度在 3.0 到 7.6 分之间,成本最多低 24%。光是把调用方式换成脚本,这一项就砍掉了 Opus 5.5 上 15% 的成本。
| 对照组 | Droid 领先 | 成本差异 |
|---|---|---|
| Droid + GPT-6.1 Sol 对 Codex | 3.5 分(Terminal-Bench 4) | 低 12% |
| Droid + Opus 5.5 对 Claude Code | 领先 3.0 到 7.6 分 | 最多低 24% |
| 每个已解任务的耗时 | 比 Claude Code 快 26% | token 少 17% |
| GPT-6.1 Sol 上的速度 | 慢 10% | token 少 12% |
这份基准还有一个必须写明的裁定细节:Devin 这个对手戒不掉中途向用户提问的习惯,Factory 的处理办法是,凡 Codex 解出而 Devin 因提问暂停的任务,一律记 Devin 得分,平均每个试验记 4.7 题。这项调整只动准确率,不动成本与耗时。全部数字出自厂商自测,没有第三方复现。
💰 独立缰绳这门生意
Droid 1.0 还压缩了启动指令,从 20887 token 砍到 13055,降幅 37%,办法是预先只给 2 个工具定义而不是 11 个,其余按需加载。公司还称生产请求的输入有 98% 读自供应商缓存,缓存价格远低于全价,这笔折扣直接写在账单上。
这盘生意的底层逻辑是模型中立。开发者想在 Anthropic、OpenAI 和开源权重模型(比如 Kimi K3)之间换着用,就得放弃每家实验室为自己模型调校的官方外壳的顺手感。Factory 的赌注是:一条为所有模型都调校过的中立缰绳,能把这层手感差距补回来。12% 的价差很小,你自己的代码库完全可以把它抹平,验证的办法也便宜:同一个下午,同一批任务,两边各跑一遍。真正值得记下的是这个架构信号,批量操作的算力不该花在「重发上下文」上,该花在干活上。这个道理对智能体的每一层都成立,Droid 只是把它写进了产品默认值。
信源与限定:Factory 官方发布「Droid 1.0: Building a Frontier Harness」(10 月 29 日)及 AI Insiders 的逐项核对。全部基准数字为厂商自测,无第三方复现;Devin 得分调整规则(平均每试验 4.7 题)来自 Factory 自己的方法说明;「98% 缓存读取」为公司口径;CodeAct 论文出处为 Factory 自述。
#AI编程 #智能体 #工程效率