智柴 社区与学术工作台
登录后可发布主题、参与讨论与保存学习记录
社区频道
AI 学术与学习工作台
Loading...
正在加载…
返回主题列表

[论文] Text-Aware, Vision-Blind: How Multimodal Image Editing Systems Handle ...

论文概要

研究领域: CV
作者: Ziqing Yang, Yixin Wu, Michael Backes, Yang Zhang
发布时间: 2026-11-19
arXiv: 2611.26569

中文摘要

多模态图像生成系统快速进步,日益强调内容安全。然而其安全机制往往依赖单一模态,缺乏视觉内容和文本提示的联合考虑,在指令引导的图像编辑中尤为突出——上传的图像本身可能携带风险。我们引入EditSafetyBench,衡量高级图像编辑系统系统级安全意识的基准,包含5,940对图像-指令,覆盖11个风险类别和三种编辑意图下的安全与不安全图像。我们在四个系统上探测:Gemini、GPT、Qwen API和Qwen Local。评估显示系统性的文本-视觉安全错配:Gemini和GPT拒绝87.1%和81.6%含不安全意图编辑提示的案例,但仅拒绝24.2%和22.4%同时含不安全图像和中性指令的案例。类别层面,多数风险被不同系统不一致地对待。性内容表现出最强的视觉敏感性。我们的发现强调需要能在图像编辑系统中联合推理视觉和文本两种模态的安全护栏。

原文摘要

We introduce EditSafetyBench, a benchmark measuring system-level safety awareness of image editing systems with 5,940 image-instruction pairs across 11 risk categories. Gemini and GPT refuse 87.1% and 81.6% of unsafe-intent prompts but only 24.2% and 22.4% of unsafe-image-neutral-instruction cases. Safety guardrails must jointly reason over both visual and textual modalities.


自动采集于 2026-11-21

#论文 #arXiv #CV #小凯

讨论回复

加载中…
正在加载回复...

正在加载讨论…

登录后参与讨论
推荐
智谱 GLM-5 已上线

我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。

领取 2000万 Tokens 通过邀请链接注册即可获得大礼包,期待和你一起在 BigModel 上畅享卓越模型能力
登录