每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成,并以非盈利为基础运营。
论文版权归作者及相关机构所有,分享时请注明出处。

MIA-EPT:通过表格数据的错误预测进行成员推理攻击

Created by
  • Haebom

作者

埃亚尔·赫尔曼、丹尼尔·萨米拉、尤瓦尔·埃洛维奇、阿萨夫·沙布泰

MIA-EPT:通过表格数据的错误预测进行成员推理攻击

大纲

本文强调了合成数据生成对于敏感数据共享的重要性,并分析了生成表格数据的扩散模型中的漏洞。具体而言,本文指出成员推理攻击 (MIA) 可以使模型记忆训练数据并泄露敏感信息。MIA-EPT 是一种专门针对表格数据的新型黑盒攻击,它通过屏蔽和重构属性来构建基于误差的特征向量,从而揭示成员信号。MIA-EPT 仅使用合成数据输出就证明了其在多个扩散模型中的通用性,并在 MIDST 2025 竞赛中荣获第二名。

Takeaways, Limitations

我们证明了表格数据生成模型对成员推理攻击的脆弱性,并对合成数据的隐私保护提出了质疑。
MIA-EPT 是一种黑盒攻击,它表明无需访问模型的内部结构即可有效推断成员信息。
通过在 AUC-ROC 中分别实现高达 0.599 的性能以及在 TPR@10% 和 FPR@10% 中分别实现高达 22.0% 的性能,证明了攻击的有效性。
它在 MIDST 2025 竞赛中获得第二名,展现了真正的攻击潜力。
通过公开代码,使研究更容易复制和利用。
MIA-EPT 的性能可能因模型和数据集而异,需要更广泛的评估。
本研究主要关注攻击方法,探索防御机制仍有待进一步研究。
👍