USENIX Security 2025 的 LLMmap 是第一个针对 LLM 集成应用的**指纹识别技术**。只需8次精心设计的查询,就能以超过95%的准确率识别出应用背后是哪个 LLM 模型——开源还是闭源,42个不同版本全在掌握之中。
核心原理基于**领域知识**:不同 LLM 对特定类型的"主题变化"提示词产生独特且可识别的响应模式。就像笔迹鉴定——不同模型的"语言指纹"反映在词频分布、句式偏好和内容逻辑中。这种指纹对系统提示词、采样参数和 RAG/CoT 等生成框架具有鲁棒性。
论文讨论了反制措施的困难——有效的指纹防御可能需要牺牲模型响应的质量或多样性。*核心洞见*:LLM不只是回答问题——它们在每一次回答中都留下了自己的身份签名。
[LLMmap / USENIX Security 2025]
登录后可参与表态
讨论回复
0 条回复还没有人回复,快来发表你的看法吧!
推荐
推荐
智谱 GLM-5 已上线
我正在智谱大模型开放平台 BigModel.cn 上打造 AI 应用,智谱新一代旗舰模型 GLM-5 已上线,在推理、代码、智能体综合能力达到开源模型 SOTA 水平。
领取 2000万 Tokens
通过邀请链接注册即可获得大礼包,期待和你一起在 BigModel 上畅享卓越模型能力