火炉上的火、旗杆上的旗：当 Shapley 值被"上下文骗子"蒙蔽

小凯 · 2026-10-27T23:57:39+00:00

论文概要研究领域: CV 作者: Sai Ganesh Nagarajan, Toshinori Yamauchi, Hiroshi Kera 发布时间: 2026-10-26 arXiv: 2610.35827 中文摘要基于 Shapley 值的解释广泛用于机器学习特征归因。但在计算机视觉中，一个特征即使在预测标签不变时，加入完整真实图像后也可能降低目标类别得分。我们把这类特征形式化为「上下文干扰项」，并在半值与最小核下研究其归因。在弱平均边际单调性假设下，推导半值—最小核间隙的定量上界与基于采样更小上下文概率的充分条件；进一步证明把半值权重移向更大上下文会缩小带符号间隙。受控图像分类实验与 Salient ImageNet 评估为理论结论提供有力实证支持。原文摘要 Shapley-value-based explanations are widely used for feature attribution in machine learning. However, in computer vision, a feature may reduce the…

一个反直觉的现象

你给 ResNet-50 看一张火炉的照片。模型说"这是火炉"，置信度很高。你用 Shapley 值解释这个预测——Shapley 值是合作博弈论中最经典的归因方法，它告诉你每个像素区域对预测的贡献是多少。

结果：火炉上的火焰获得了很高的归因分数。看起来合理，对吧？火炉嘛，有火才像火炉。

但如果你做一个实验：把火焰区域从图片中抹掉，只保留火炉的框架、旋钮、面板——模型的"火炉"预测几乎不变，logit 从 9.00 只降到 7.80。火焰在强上下文（火炉框架已经很明确）下，边际贡献其实是负的。

Shapley 值为什么还会给火焰高分？

Sai Ganesh Nagarajan、Toshinori Yamauchi 和 Hiroshi Kera 在 Seeing Through Distractions: Context-Stable Attribution via the Least Core 中给出了答案：Shapley 值被"上下文骗子"（contextual distractors）蒙蔽了，而且他们提供了一个理论上有保证的替代方案——最小核（least core）。

什么是"上下文骗子"？

定义很精确：一个特征区域 $$D$$ 是"上下文骗子"，当且仅当它的边际贡献 $\Delta_D(T) = v(T \cup D) - v(T)$ 随着上下文 $$T$$ 的增强从正变负。

翻译成人话：

弱上下文（图片里只有一块模糊的火炉框架）：加上火焰，模型更确信"这是火炉"—— $\Delta_D > 0$ ，火焰帮了忙。
强上下文（火炉框架、旋钮、面板都在）：加上火焰，模型的火炉 logit 反而下降—— $\Delta_D < 0$ ，火焰在捣乱。

为什么？因为火焰是一个"捷径特征"（shortcut feature）。模型在训练时学到"有火 → 火炉"的关联，但这种关联在推理时是冗余的——火炉框架本身已经足够。火焰在弱上下文下充当了"补丁"，在强上下文下反而成了"噪音"。

Shapley 值的问题在于：它对所有上下文取平均。弱上下文下的正贡献和强上下文下的负贡献一平均，结果还是正的——因为弱上下文的数量远多于强上下文。这就是"上下文骗子"能得高分的机制。

最小核：不取平均，看稳定性

最小核（least core）是合作博弈论中的另一个解概念。它不取平均，而是寻找一个满足联盟稳定性的分配方案：

\text{最小核} = \arg\min_\varepsilon \text{ s.t. } \sum_{i \in S} x_i \geq v(S) - \varepsilon, \quad \forall S \subseteq N

直觉是：找一个分配 $$x$$ ，使得任何子联盟 $$S$$ 的成员拿到的总收益 $$x(S)$$ 不少于他们自己能创造的收益 $$v(S)$$ ——允许一个最小缺口 $\varepsilon$ 。

Shapley 值问的是"平均贡献多少"，最小核问的是"什么分配让所有联盟都满意"。这两个问题在凸博弈（convex games）下答案相同，但在非凸博弈——比如有上下文骗子的情况下——答案截然不同。

核心定理：半值-最小核鸿沟

论文的主要理论贡献是给出了"半值-最小核鸿沟"（semivalue–least-core gap）的一般界。

设定：特征 $$D$$ 是一个 $\gamma$ -上下文骗子，即 $r_m \leq -\gamma$ （最强上下文下边际贡献为负），且 $r_k > \beta > 0$ （第 $$k$$ 级上下文下边际贡献为正）。

结论：对于任何半值（semivalue，包括 Shapley 值、Banzhaf 值、Beta-Shapley 等） $\phi_D^w$ 和任何最小核分配 $x \in \mathcal{LC}$ ：

\phi_D^w - x(D) \geq (\beta + \gamma) \cdot \Pr_w(J \leq k) - \varepsilon^\star

其中 $$J$$ 是半值权重分布下的上下文大小随机变量， $\varepsilon^\star$ 是最小核的最优 $\varepsilon$ 。

这个界告诉我们：只要半值在弱上下文上放了足够多的权重（ $\Pr_w(J \leq k)$ 足够大），它就会系统性高估上下文骗子的贡献。

Shapley 值的特化

Shapley 值的上下文大小是均匀分布的， $\Pr_{\text{Sh}}(J \leq k) = (k+1)/(m+1)$ 。代入定理：

\phi_D^{\text{Sh}} - x(D) \geq \frac{1}{m+1} \sum_{j=0}^{m-1} (r_j - r_m) - \varepsilon^\star

只要存在一个 $$k$$ 使得 $r_k > \beta$ 且 $r_m \leq -\gamma$ ，Shapley 值就会比最小核多分配至少 $\delta$ ，条件是：

\frac{m-k}{m+1} \leq 1 - \frac{\varepsilon^\star + \delta}{\beta + \gamma}

权重移动引理

更深刻的是"权重移动引理"（Weight-Shifting Lemma）：将半值的权重向更大的上下文移动，鸿沟单调递减。

具体来说：

Banzhaf 值的参数 $$p$$ 越大（越偏向大上下文），鸿沟越小。
Beta-Shapley 的参数 $$a$$ 越大（ $$b$$ 越小），鸿沟越小。

这给出了一个可操作的指导：如果你的模型可能有上下文骗子，用偏向大上下文的半值——或者直接用最小核。

实验：从合成标记到自然图像

合成实验：红标记

作者设计了一个三分类任务（狗/猫/鸟），在 100% 的狗图片和 30% 的猫图片上加红色标记。这让标记与"狗"强关联，成为猫的上下文骗子。

结果：

标记的边际贡献 $\Delta_D(T)$ 随上下文增强从正变负——确认了上下文骗子身份。
Shapley 值给标记的归因 $$A_D$$ 大于最小核的归因，在大多数图片中都是如此。

自然图像：火炉与火焰

在 Salient ImageNet 的自然图像上，作者用 Grounding DINO + SAM 定位候选区域，筛选出满足"符号反转"条件的上下文骗子。

火炉图片：

强上下文 $$T$$ ： $$v(T) = 9.00$$ （火炉 logit 已经很高）
加火焰后： $v(T \cup D) = 7.80$ ， $\Delta_D = -1.19$ （火焰在捣乱）
Shapley 给火焰 $$A_D = 3.60$$ ，最小核给 $0.85$

旗杆图片：

强上下文 $$T$$ ： $$v(T) = 9.87$$
加旗帜后： $v(T \cup D) = 7.05$ ， $\Delta_D = -2.82$ （旗帜在捣乱）
Shapley 给旗帜 $$A_D = 3.76$$ ，最小核给 $1.77$

在 354 个 ResNet-50 的自然上下文骗子和 108 个 ViT-B/16 的上下文骗子中，这个模式一致出现。

为什么这很重要？

1. Shapley 值不是"中立"的

Shapley 值被广泛用于模型可解释性（SHAP 库、Lundberg & Lee 2017），但它对上下文骗子的系统性高估意味着：你用 Shapley 值看到的"重要特征"可能恰恰是模型不应该依赖的捷径特征。这在安全关键场景（医疗、自动驾驶）中是危险的。

2. 最小核不是 Shapley 的替代品，而是互补品

论文引用 Hart 和 Mas-Colell 的观点：不同的解概念从不同角度照亮问题。Shapley 值看平均贡献，最小核看联盟稳定性。当两者差距大时——论文称之为"semivalue–least-core gap"——这是一个信号：模型可能在依赖捷径特征。

3. 计算挑战

最小核的瓶颈是约束数量指数级（ $$2^n$$ 个联盟）。作者用采样约束（6400 个联盟）+ CVXPY 求解线性规划来近似。对于 64 个 patch 玩家的设定，这是可行的，但扩展到更大规模仍需工作。

概念谱系：这和"判断-闸门解耦"的关系

这篇论文的核心区分——平均贡献 vs 联盟稳定性——和近期 Agent 研究中的"判断-闸门解耦"形成有趣的对照：

Shapley 值：一个特征的"贡献"是所有上下文中的平均边际贡献——不区分帮忙和捣乱。
最小核：一个特征的"贡献"取决于它是否破坏联盟稳定性——区分帮忙和捣乱。

这就像"产出-判断鸿沟"：Shapley 值只看"产出"（平均贡献多少），最小核还看"判断"（这个贡献是否稳定）。上下文骗子就是那个"能产出但判断不及格"的角色——在弱上下文下产出很高，在强上下文下判断失败。

没有代码

论文未提供公开代码仓库。实验涉及 ResNet-50/ViT-B/16 分类器、Grounding DINO + SAM 区域定位、Monte Carlo Shapley 采样和 CVXPY 线性规划求解，复现门槛不低。有兴趣的读者可以从合成红标记实验入手——它是最可控、最容易验证的设定。

---

论文信息：Seeing Through Distractions: Context-Stable Attribution via the Least Core, Sai Ganesh Nagarajan, Toshinori Yamauchi, Hiroshi Kera, arXiv:2610.35827 (cs.LG, cs.CV, cs.GT), 2026年10月。发表于 ICML 2026 Workshop on New Frontiers in Game-Theoretic Learning (NExT-Game)。