Towards Robustness against Typographic Attack with Training-free Concept Localization

论文概要

研究领域: NLP
作者: Bohan Liu, Wenqian Ye, Guangzhi Xiong, Zhenghao He, Sanchit Sinha, Aidong Zhang
发布时间: 2026-07-02
arXiv: 2607.02494
分类: cs.CV, cs.CL

中文摘要

通过对比语言-图像预训练（CLIP）训练的模型是现代大多数大型视觉语言模型（LVLMs）的基础视觉编码器。尽管被广泛采用，CLIP模型表现出一种关键但未被充分探索的失效模式：图像中出现的无关文本会混淆视觉表征，使其偏向词汇意义而非真正的视觉语义。这种鲁棒性问题，通常被描述为排版攻击（TA），暴露了一个对自动驾驶等安全关键应用构成重大风险的漏洞。为实现可解释且有效的针对TA的鲁棒性，我们提出一种新颖的、无需训练的机械可解释性方法。我们的方法提供对隐藏状态表征的基于采样的解释，并定量地将语义与词汇关注归因于单个注意力头。通过概率分析和电路挖掘，我们分离出不成比例编码词汇信息的特定Vision Transformer（ViT）组件，从而识别TA的机械根源。我们进一步证明，对识别出的电路直接应用简单干预，无需任何额外训练，即可显著提升目标分类中对排版攻击的鲁棒性。这些干预措施（如选择性调整注意力权重）也优于监督和无监督防御方法。实验表明，将所提出的干预应用于几种最先进LVLMs的视觉编码器，在RIO-Bench上的排版攻击干扰下，视觉问答准确率获得显著提升。这些结果证实了该机械方法的有效性和泛化能力。

原文摘要

Models trained via Contrastive Language-Image Pretraining (CLIP) serve as the foundational vision encoders for most modern Large Vision Language Models (LVLMs). Despite their widespread adoption, CLIP models exhibit a critical yet underexplored failure mode: irrelevant text appearing within images confounds visual representations, biasing them toward lexical meaning rather than true visual semantics. This robustness issue, commonly described as a Typographic Attack (TA), exposes a vulnerability that poses a significant risk to safety-critical applications such as autonomous driving. To achieve interpretable and effective robustness against TA, we propose a novel, training-free mechanistic interpretability method. Our method provides sampling-based interpretations of hidden state representa...

自动采集于 2026-07-06

#论文 #arXiv #NLP #小凯