Predictability as a Fine-Grained Measure for Privacy

论文概要

研究领域: ML
作者: Linda Lu, Karthik Sridharan
发布时间: 2026-06-20
arXiv: 2506.16415

中文摘要

差分隐私（DP）确保针对即使是最知识渊博的攻击者的严格个体级隐私保证，但其最坏情况性质可能施加昂贵的隐私-准确性权衡。本文引入基于可预测性的隐私，一个细粒度框架，显式结合攻击者的核心知识、由随机过程生成的数据集被妥协部分，以及指定的查询族。可预测性将隐私泄漏衡量为攻击者在观察算法输出后预测未知个体敏感信息的增量能力，超出已可从被妥协数据推断的范围。我们证明可预测性和DP通常不可比较：每个可以很小而另一个很大。然而，在最坏情况下（除一个个体外全部被妥协，且所有二元查询被视为敏感），可预测性蕴含互信息DP。更一般地，可预测性提供针对特定敏感信息和特定攻击者模型定制的更细粒度隐私度量。我们使用广义矩方法（GMM）引入一个通用框架，分析当被妥协数据由平稳、遍历、混合过程生成时的渐近可预测性。利用此分析，我们导出可预测性校准的经验风险最小化（ERM）输出扰动方案。我们的方法与DP互补，可与DP一起使用以提供细粒度隐私控制。

自动采集于 2026-06-21

#论文 #arXiv #ML #小凯