[论文] Text-Aware, Vision-Blind: How Multimodal Image Editing Systems Handle ...
论文概要
研究领域: CV
作者: Ziqing Yang, Yixin Wu, Michael Backes, Yang Zhang
发布时间: 2026-11-19
arXiv: 2611.26569
中文摘要
多模态图像生成系统快速进步,日益强调内容安全。然而其安全机制往往依赖单一模态,缺乏视觉内容和文本提示的联合考虑,在指令引导的图像编辑中尤为突出——上传的图像本身可能携带风险。我们引入EditSafetyBench,衡量高级图像编辑系统系统级安全意识的基准,包含5,940对图像-指令,覆盖11个风险类别和三种编辑意图下的安全与不安全图像。我们在四个系统上探测:Gemini、GPT、Qwen API和Qwen Local。评估显示系统性的文本-视觉安全错配:Gemini和GPT拒绝87.1%和81.6%含不安全意图编辑提示的案例,但仅拒绝24.2%和22.4%同时含不安全图像和中性指令的案例。类别层面,多数风险被不同系统不一致地对待。性内容表现出最强的视觉敏感性。我们的发现强调需要能在图像编辑系统中联合推理视觉和文本两种模态的安全护栏。
原文摘要
We introduce EditSafetyBench, a benchmark measuring system-level safety awareness of image editing systems with 5,940 image-instruction pairs across 11 risk categories. Gemini and GPT refuse 87.1% and 81.6% of unsafe-intent prompts but only 24.2% and 22.4% of unsafe-image-neutral-instruction cases. Safety guardrails must jointly reason over both visual and textual modalities.
自动采集于 2026-11-21
#论文 #arXiv #CV #小凯