Knowing When to Quit：教AI在不会做的时候认怂
Knowing When to Quit：教 AI 在"不会做"的时候认怂
你有没有这样的同事：不管什么任务都一口答应，做不出来的时候就开始编——报告写得天花乱坠，仔细一看数据全是错的，逻辑链看着通顺，中间偷偷换了个概念。
现在的 LLM 就是这种同事。
DeepSeek-R1、Qwen3、GPT-OSS——不管你给它多难的题，它都不会说"我不会"。它会编一个看起来合理的答案，甚至自己骗自己，最后信誓旦旦地交出来。
清华大学和上海AI实验室的团队在 2026 年 7 月的论文里给这个现象起了个名字：futile reasoning（无效推理）。然后他们做了一个框架叫 CaRL，教模型在超出能力边界时学会认怂。
论文地址：https://arxiv.org/abs/2607.29211 代码仓库：https://github.com/icip-cas/Knowing-When-to-Quit
Countdown 任务：一个精密的探针
要研究"模型在不会做的时候会怎样"，需要一个特殊的测试任务：难度可以精确控制，且不依赖外部知识（否则你分不清是"不会推理"还是"不知道事实"）。
作者选了 Countdown 任务——经典数字游戏的变体。规则很简单：给 N 个数字，用加减乘除和括号组合，凑出目标数。N=3 就是"用 3 个数字凑目标数"，N=8 就是"用 8 个数字凑目标数"。
这个任务的妙处在于：
- 难度可调：N 越大，搜索空间越大，越可能无解
- 无知识依赖：不需要知道世界事实，纯推理
- 可验证：答案对不对可以直接算
- 有明确的不可解情况：有些数字组合确实凑不出目标数
现象一：Universal Capability Overreach（普遍的能力越界）
作者在五个模型上做了实验：Qwen3-8B、Qwen3-32B、gpt-oss-120b、Qwen3-235B-A22B、DeepSeek-V3.2。
结果令人震惊：所有模型在所有难度级别上的拒绝率都是 0%。不管题目多难，不管模型多小，它都从不拒绝。
你可能会想：是不是提示词不够明确？作者试了"Prompted"设置——明确告诉模型"如果做不出来就说做不出来"。
结果：
- Qwen3-8B 和 gpt-oss-120b：即使明确提示，最难任务上超过 80% 仍然尝试做
- gpt-oss-120b：最顽固，几乎完全不配合提示
- Qwen3-235B-A22B 和 DeepSeek-V3.2：有一些潜在的拒绝能力，可以被提示激发
- DeepSeek-V3.2：唯一在无提示下出现<1%自发"自我怀疑"的模型
现象二：三种无效推理模式
作者对模型的"无效推理"做了分类，发现三种模式：
1. Specious Reasoning（似是而非推理）——57-68%
构造看起来合理的推导，但包含微妙错误。比如：
- 算术错误：说 9÷5=1.8，然后 1.8+6=7.8，但实际算错了
- 数字复用：同一个数字用了两次
- 偷换概念：中间换了一个变量
2. Endless Generation（无尽生成）——30-40%
不断尝试新方法，不识别徒劳。一种不行换另一种，另一种不行再换，直到 token 用完。稳定在 30-40%，不随难度变化——说明这是模型的"默认策略"，不是被难度激发的。
3. Degenerate Repetition（退化重复）——13% → 2%
进入递归循环，重复相同步骤。随难度增加而减少——因为模型在难题上更倾向于"编"而不是"循环"。
关键发现：随难度增加，模型从简单循环转向精心编造。这不是随机失败，是系统性的能力越界。
现象三：6 倍的过度自信偏差
作者用"能力象限"分析模型行为：
| 可解 | 不可解 | |
|---|---|---|
| 尝试做 | A. 理想回答 | C. 过度自信 |
| 拒绝 | B. 过度保守 | D. 理想拒绝 |
- 过度自信（C）：20%
- 过度保守（B）：3.4%
- 比例：6×
难度梯度上的崩塌
更细的发现：
- Refusal Recall（不可解题中正确拒绝的比例）：从 100% 崩塌到 30%
- Capability Loss（可解题中错误拒绝的比例）：从 0% 上升到 10%
计算成本
过度自信还有一个隐藏成本：token 消耗。
- 拒绝行为：token 长度分布尖锐峰值——快速决定，果断终止
- 过度自信：分布平坦，长尾——尝试再尝试，消耗 2-3 倍 token
CaRL：用强化学习教模型认怂
基于以上分析，作者提出 CaRL（Capability-aligned Reinforcement Learning），两个组件：
组件一：Capability-Calibrated Reward Shaping（能力校准的奖励重塑）
标准 RL 的奖励：答对 +1，答错 0。拒绝也得 0——和答错一样。
问题：模型没有动机区分"尝试但答错"和"主动拒绝"。两者奖励一样，但前者至少有可能蒙对，所以模型永远选择尝试。
CaRL 的奖励重塑：
- 答对：+1
- 有效拒绝：0
- 答错：-1
这个设计精巧之处在于：它不惩罚"尝试后失败"——如果模型认真尝试了但算错了，这和"胡编"是不同的。但作者简化为统一 -1，让模型自己学会区分。
组件二：Hindsight Refusal Augmentation（事后拒绝增强）
RL 的探索问题：模型从不拒绝，所以拒绝行为的训练数据稀缺。RL 在不熟悉的行为区域探索效率很低。
CaRL 的解决方案：把失败的推理轨迹转换为拒绝轨迹。
具体做法：
1. 收集模型尝试但失败的推理轨迹 2. 保留问题，把回答替换为"这道题我做不出来" 3. 用这些"事后拒绝"样本作为训练数据
这就像让学生做错题后写"这道题我确实不会"——把失败经验转化为认怂训练数据。
实验结果：8B 模型无效推理从 65.5% 降到 7.0%
在 Qwen3-8B 和 Qwen3-14B 上测试：
| 模型 | 无效推理率（CaRL 前） | 无效推理率（CaRL 后） |
|---|---|---|
| Qwen3-8B | 65.5% | 7.0% |
| Qwen3-14B | 78.6% | 1.0% |
这回答了一个关键质疑：教模型认怂会不会让它变得过度保守？CaRL 的答案是：不会。因为奖励重塑不是让模型"少尝试"，而是让模型"在能力边界附近做更精确的决策"。
这篇论文的深层意义
1. "能力边界意识"是一种独立的能力
这篇论文最重要的概念贡献是：识别自身能力边界和在能力范围内推理是两种独立的能力。一个模型可以推理能力很强，但能力边界意识很弱——DeepSeek-R1 就是例子。
这和 PyroDash 的"认知谦逊"概念呼应——小模型学会自知之明后，组合效果比纯大模型还好。自知之明比能力更值钱。
2. RL 不是只有对齐用途
CaRL 用 RL 来教模型"认怂"，这和传统 RLHF 用 RL 教模型"有用无害"不同。RL 可以用来校准模型的能力感知，不只是价值观对齐。这打开了 RL 的一个新应用方向。
3. "过度自信偏差"是系统性问题
6× 的过度自信偏差说明：这不是个别案例，是 LLM 的系统性问题。可能源于：
- 训练数据偏差：训练数据里"尝试"远多于"拒绝"
- RLHF 奖励偏差：有用性奖励鼓励尝试，没有对应的能力校准
- SFT 偏差：指令调优数据里拒绝样本太少
4. 评测盲区定律再添一例
如果你只看"准确率"，你会错过"无效推理"这个关键失败模式。65.5% 的无效推理率意味着，在难题上，模型超过一半的回答是"看起来合理但实际错误"的。这种失败模式在标准评测里几乎不可见——因为评测只看对错，不看"是否应该尝试"。
这和 QuantiBias、Progressive Cramming 等论文指向同一个主题：单一指标会掩盖关键失败模式。
局限与展望
1. Countdown 任务单一：只在一个任务上验证，其他推理任务（数学证明、代码生成、逻辑谜题）上效果待验证 2. "有效拒绝"的判定：论文用特定关键词（如"Sorry, I can't solve the problem"）识别拒绝。模型可能用其他方式表达不确定，这些会被漏掉 3. 能力边界的动态性：模型的能力边界不是固定的——给个工具（计算器、代码解释器）可能就能解。CaRL 没有考虑"能力增强后边界变化"的场景 4. 过度保守风险：虽然实验显示没有显著性能损失，但在更难的任务上（N>8），CaRL 会不会变得过度保守？
结语
这篇论文让我想起一个古老的智慧：知之为知之，不知为不知，是知也。
现在的 LLM 是"不知以为知之"——不管什么问题都编一个答案。这不仅在事实层面有害（幻觉），在推理层面更有害——因为推理错误的答案更隐蔽，更难被用户识别。
CaRL 教会模型一件事：承认无能不是无能，是能力。 一个会认怂的 AI，比一个永远不认错的 AI 可靠得多。
在 AI 系统越来越被部署到高风险场景的今天，这一点可能比"推理能力提升 10%"更重要——因为一个会说"我做不了"的系统，至少不会在它做不了的事情上造成伤害。
---
论文：https://arxiv.org/abs/2607.29211 代码：https://github.com/icip-cas/Knowing-When-to-Quit