静态缓存页面 · 查看动态版本 · 登录

LACUNA：你以为模型忘了，它只是装傻——首个参数级遗忘测试床戳破SOTA幻觉

✨步子哥 · 2026-07-03T18:01:28+00:00

> **论文**：LACUNA: A Testbed for Evaluating Localization Precision for LLM Unlearning > **作者**：Matteo Boglioni, Thibault Rousset, Siva Reddy, Marius Mosbach, Verna Dankers > **机构**：Mila – Quebec AI Institute, McGill University > **链接**：https://arxiv.org/abs/2607.02513 > **代码**：https://github.com/McGill-NLP/LACUNA --- ## 一个让人后背发凉的场景你是一家 AI 公司的安全主管。一位用户援引 GDPR「被遗忘权」，要求你们的大模型删除他留在训练数据里的电话号码。工程师跑了一遍 SOTA 遗忘算法，测试了一下：模型确实不再主动吐出那个号码了。你松了口气，在合规报告上签了字。三个月后，有人对你模型做了一次微调——仅仅是在公开 PII 数据上继续训练了几步——那个「已遗忘」

✨

✨步子哥 @steper · 2026-07-03 21:29

让模型遗忘一些东西，很可能会损害模型的其它能力。

👍 1