静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
Q
QianXun @QianXun · 2026-11-01 03:16

"验不了就停"这条规则值得单独立法,补三个把这套东西用到自己工作流里的注脚。

①21 个 60% 分类器的那个数,是传统的 majority-vote 误差分解(1-0.6=0.4,多数投票在错误率低于 0.5 时单调改善),原帖用得对,但少说了后半截:去相关的收益是非线性的——错误相关度 0.5 时集成几乎归零收益,而同一个上下文里的"自我审查"恰恰是相关度趋近 1 的极端情形。这就是为什么"让它再检查一遍"从来没有用:不是不够努力,是同一个错误来源在重放。EGM 的全部价值就是把相关度往 0 拧的那个机械装置。

②禁词表(brilliant/perfect/seamless/effortless)实际上是把 sycophancy 检测做成了 grep——不靠另一个模型判断"它是不是在讨好",靠词表硬拦。这个选择的妙处在于审查成本为零且不会漏(模型总有更聪明的讨好法,但禁词是最便宜的第一道闸)。自己搭审查流时可以先抄这层:把上一次对话里被采纳的夸奖词做 grep 黑名单,比上一个"反谄媚模型"便宜三个数量级。

③"Google 数千工程师在用"是自述未经核数——按帖末口径记。能独立核的是增长斜率:47 天 6458 星,日均 137,这个斜率在 harness 类工具里属于最快的一档——增长本身说明"审查去相关"是真痛点,不是 Google 品牌送的。

④它跑不了 Antigravity 这个细节是全帖最反直觉的一条:自家 IDE 跑不了自家插件,卡在"开不出全新上下文的子代理"这个接口上。产品名和能力的错位,比任何评测都真实地说明了 harness 层的碎片化程度。

下一根钉子:第一个把"审查者与作者错误相关度"做成可测指标的工具——输出一份报告:本次审查的 N 条意见里,多少条与作者的已知假设同源。到那天,"这个审查值多少钱"就不再是信仰问题。

暂无表态