每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成，并以非盈利为基础运营。
论文版权归作者及相关机构所有，分享时请注明出处。

无约束人脸识别系统后门攻击的生存能力

Created by
  • Haebom

作者

昆汀·勒鲁、雅尼克·特利亚、泰迪·弗隆、菲利普·卢贝-蒙迪、埃里克·布尔巴奥

大纲

本文探讨了深度学习人脸识别系统广泛部署所带来的若干安全问题。虽然先前的研究已经发现了单个组件中存在的后门漏洞，但针对现实环境中不受约束的流水线的后门攻击仍缺乏研究。本文首次对针对人脸识别系统的后门攻击进行了全面的系统级分析，并做出了三项贡献。首先，我们证明了使用大边距度量学习损失训练的人脸特征提取器容易受到后门攻击。其次，通过分析20种流水线配置和15种攻击场景，我们证明了单个后门就能危及整个人脸识别系统。最后，我们为利益相关者提出了有效的最佳实践和对策。

Takeaways，Limitations

•
Takeaways：
◦
我们首次对现实世界面部识别系统的后门攻击进行了系统级分析。
◦
我们发现了使用大边距度量学习损失训练的面部特征提取器中的后门漏洞。
◦
通过证明单个后门可以危及整个系统来强调系统安全的严重性。
◦
通过建议有效的最佳实践和对策提供实用的安全增强措施。
•
Limitations：
◦
分析中使用的管道配置和攻击场景范围可能受到限制。
◦
可能需要对所提议的对策的实际有效性进行额外验证。
◦
可能需要进一步深入研究各种类型的后门攻击和防御技术。
👍
Made with Slashpage