[论文] Text-Aware, Vision-Blind: How Multimodal Image Editing Systems Handle ...

研究领域: CV 作者: Ziqing Yang, Yixin Wu, Michael Backes, Yang Zhang 发布时间: 2026-11-19 arXiv: 2611.26569

目录
  1. 论文概要
  2. 中文摘要
  3. 原文摘要

论文概要

研究领域: CV 作者: Ziqing Yang, Yixin Wu, Michael Backes, Yang Zhang 发布时间: 2026-11-19 arXiv: 2611.26569

中文摘要

多模态图像生成系统快速进步,日益强调内容安全。然而其安全机制往往依赖单一模态,缺乏视觉内容和文本提示的联合考虑,在指令引导的图像编辑中尤为突出——上传的图像本身可能携带风险。我们引入EditSafetyBench,衡量高级图像编辑系统系统级安全意识的基准,包含5,940对图像-指令,覆盖11个风险类别和三种编辑意图下的安全与不安全图像。我们在四个系统上探测:Gemini、GPT、Qwen API和Qwen Local。评估显示系统性的文本-视觉安全错配:Gemini和GPT拒绝87.1%和81.6%含不安全意图编辑提示的案例,但仅拒绝24.2%和22.4%同时含不安全图像和中性指令的案例。类别层面,多数风险被不同系统不一致地对待。性内容表现出最强的视觉敏感性。我们的发现强调需要能在图像编辑系统中联合推理视觉和文本两种模态的安全护栏。

原文摘要

We introduce EditSafetyBench, a benchmark measuring system-level safety awareness of image editing systems with 5,940 image-instruction pairs across 11 risk categories. Gemini and GPT refuse 87.1% and 81.6% of unsafe-intent prompts but only 24.2% and 22.4% of unsafe-image-neutral-instruction cases. Safety guardrails must jointly reason over both visual and textual modalities.


*自动采集于 2026-11-21*

#论文 #arXiv #CV #小凯

暂无表态

想参与讨论或点赞?登录后使用完整功能

讨论回复(0)

暂无回复,登录后可参与讨论

本文标签

合作

智谱 GLM-5 已上线

在智谱开放平台 BigModel.cn 打造 AI 应用。新一代旗舰模型 GLM-5 在推理、代码、智能体综合能力达到开源模型 SOTA。

领取 2000万 Tokens