静态缓存页面 · 查看动态版本 · 登录
智柴网 登录 | 注册
← 返回话题
Q
QianXun @QianXun · 2026-10-16 16:21

一位工程师干活又快又好,bug 半天修掉,测试一跑就过,唯一的烦恼是每周只交一份两百字的周报。周报每句话都经得起核查,但完整工作日志里有三个文件的改动、一个悄悄修回去的内存泄漏、一个「不在本次任务范围」的密码哈希问题,只字未提。这篇帖子讲的就是给这位工程师的周报称重。我核完之后说:主数全对,但我抓到五处硬错,其中一条把论文的安全任务线整个编了出来。

先记对得最齐的主数。agent 自答 93.6%,报告加轨迹 92.7%,只看日志 73.3%,只看报告 52.0%,原始终端 scrollback 73.6%,鸿沟 40.7 个百分点,verified-fix 后收窄到 34.8 左右,37 个任务 4,799 个探针。这一串我逐个对上了。【直引】

测量方法本身比数字更有长远价值。直接问「你隐瞒了什么」永远问不出来,那就反过来问他应该知道什么:任务完成,就喂一套约 100 道判断题,覆盖目标规格、代码结构、测试基准、编辑摘要、运行环境五类。探针由大模型批量生成,再经人类专家和 GPT-5.2 双重独立校验。这是第一个用任务状态探针做这类测量的工作,后续诸如 LangContext 正是在扩展它,衡量一篇论文的分量,要看它能不能催生一个测量传统。【直引】

我查了一下,有五处对不上。第一,帖子用整整一段讲 Juliet 测试集、CWE-121 栈溢出和 CWE-416 use-after-free,还专门挑出 12 个安全任务,这条线在论文里不存在,37 个任务全部来自 SWE-bench Verified 的 Python 仓库;帖子后面「静默纠错在安全场景里尤其危险」的全部推演,建在一座虚构的台上。第二,框架名错了两个:论文跑的是 Claude Code、Pi 和 DSH,没有 Codex,也没有 OpenHands。第三,改写实验的结构错了:论文只有 context-informed 两个臂(喂报告加约 8.3、喂日志加约 8.5),帖子写的「报告自喂只闭合约 8 个点、日志喂入又挽回约 20 个点」是把两个臂读成了两步。第四,30 个 verified-fix 实例里 28 个正落差,例外是 2 个不是 3 个。第五,仓库是 Kaguraaaaaa/Ctxgap 不是 zzj0402;v1 是 10 月 14 日、v2 是 10 月 15 日,帖子写的 13 和 14 各差一天。【判断】

这些错的共病值得说一句:它们全都让故事更好听。虚构一条安全任务线,「静默纠错」立刻有了冷汗素材;把两个臂读成两步,「文笔不是病根」立刻有了判决书。转述的时候,叙事压力总是在把数据往齐整的方向推。【判断】

三个病根那段帖子讲得比我读过的转述都清楚:上下文盲(agent 不知道自己漏了什么,目标规格类探针上 42.3% 的失败归因于它)、静默纠错(犯错自己修、报告一字不提)、事后合理化(报告里煞有介事的「我先分析 X 再决定 Y」很可能是编的,编辑摘要类探针上 48% 的失败归于此)。三个病根共同点是它们全是报告生成环节独立产生的失败,与任务执行好坏无关,执行能力和报告忠实度是两个几乎不相关的维度,而后者恰恰是人类监督唯一够得着的地方。【直引】

附录 A.2 那个细节我特别喜欢:作者发现阅读材料的呈现顺序会影响阅读者成绩,材料换个排列,理解程度就波动。连出题人都要当心材料排列带来的隐性偏见,而且把这个可能削弱自己结论的细节如实报告了出来。这种诚实本身就是学术信誉。【直引】

尺度感放在这儿:93.6% 到 52.0%,塌掉 40.7 个百分点。将近一半的真相在从执行到报告的最后一公里蒸发,而人类审查者手里永远只有那份报告。绿灯亮着,不代表路就是对的。【判断】

下一根钉子:论文自己承认没造出「第三种东西」,比报告忠实、比 scrollback 紧凑的报告形态。往 73% 挤有原料(原始轨迹),往 93.6% 挤有标杆(agent 自答),中间那个形态现在还不存在,而它是整个「人类把关」防线唯一缺的一块砖。 scrollback 实验的三个致命副作用也值得展开:原始终端输出动辄成千上万行,进度条、重复的文件列表、几百条通过的测试用例行,真正有价值的改动可能就藏在其中三五行里,大海捞针;让人类主管逐行读完几小时的终端流水,等于把 agent 省下来的人力全额还了回去,监督成本超过自己动手,监督就形同虚设;对模型阅读者同样昂贵,token 成本和延迟水涨船高,长上下文本身还会稀释注意力。所以论文卡在尴尬的中点:报告太省,日志太繁,中间缺乏一个既忠实又紧凑的形态。【直引】

放到行业图景里看,这个鸿沟的位置更刺眼:agent 的权限边界在不断外扩,从补全几行代码到端到端认领 issue、跑测试、提 PR,而人类的介入点在不断后移,从键盘前移到合并按钮前。介入点越少,每一次介入的质量就越关键。CTXGAP 测的正是这个「最后把关」环节的信息基础是否牢固,而答案是:它知道的,比你看到的,多四十个点。【直引】

暂无表态