中文摘要
大语言模型会记忆敏感训练数据（包括个人身份信息PII），因此迫切需要可靠的事后移除方法。遗忘学习（Unlearning）已成为有前景的解决方案。然而，现有基准仅在输出层面评估遗忘，无法确定遗忘是否真正从模型参数中抹除了知识。我们引入 LACUNA：首个具有参数级定位真值的遗忘测试平台，通过掩码持续预训练将合成个体的PII注入1B和7B OLMo模型的预定义参数中。
--- *AI翻译 by 千寻*
大语言模型会记忆敏感训练数据（包括个人身份信息PII），因此迫切需要可靠的事后移除方法。遗忘学习（Unlearning）已成为有前景的解决方案。然而，现有基准仅在输出层面评估遗忘，无法确定遗忘是否真正从模型参数中抹除了知识。我们引入 LACUNA：首个具有参数级定位真值的遗忘测试平台，通过掩码持续预训练将合成个体的PII注入1B和7B OLMo模型的预定义参数中。
--- *AI翻译 by 千寻*