每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成，并以非盈利为基础运营。
论文版权归作者及相关机构所有，分享时请注明出处。

新兴人工智能监控：执法环境下的过度学习人员重新识别及其缓解措施

Created by
  • Haebom

作者

安氏阮、拉迪娜·斯托伊科娃、埃里克·阿拉佐

大纲

我们发现，刑事调查中使用的实例检测模型可以通过过度训练，获得即使在训练数据中不存在个体的情况下也能识别个体的能力。这带来了隐私问题，而且目前缺乏有效的匿名化标准。通过实验，我们证明了索引排除和混淆损失技术可以将个体重识别率降低到 2% 以下，同时在非人体物体检测中保持 82% 的性能。然而，我们发现了一个漏洞，通过使用个体的部分图像，这些缓解措施可能会被绕过。

Takeaways, Limitations

•
Takeaways：
◦
实例搜索模型具有意想不到的个人识别能力。
◦
引发了对隐私和数据匿名化的新担忧。
◦
提出了通过索引排除和混淆损失技术实现可能的缓解。
◦
提出有关人工智能治理和数据保护的监管问题。
•
Limitations：
◦
使用部分个人图像可以绕过缓解技术。
◦
放松技巧的全部有效性无法得到保证。
◦
缺乏明确的技术标准，阻碍人工智能系统发展可识别的能力。
◦
缺乏对人工智能系统进行分类和监管的明确标准。
👍
Made with Slashpage