每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成,并以非盈利为基础运营。
论文版权归作者及相关机构所有,分享时请注明出处。

用于神经网络认证的有效原像近似

Created by
  • Haebom

作者

Anton Bj Orklund、Mykola Zaitsev、Marta Kwiatkowska

大纲

随着人们对安全关键型人工智能 (AI) 的日益依赖,神经网络身份验证的有效性也变得愈发重要。尤其需要指出的是,“补丁攻击”(例如对抗性补丁或遮​​挡部分图像(例如交通标志)的光照条件)在现实世界中极具挑战性。PREMAP 通过利用原像(一组可得出给定输出的输入)的欠近似和过近似,在对抗补丁攻击的身份验证方面取得了显著进展。虽然 PREMAP 方法用途广泛,但目前仅限于中等维度的全连接神经网络。为了满足更广泛的现实世界用例,我们提出了 PREMAP 的新型算法扩展,其中包含更严格的边界、自适应蒙特卡罗采样和改进的分支启发式算法。这些效率提升显著超越了原始的 PREMAP,并使其能够扩展到之前难以处理的卷积神经网络。此外,我们还展示了原像近似方法在分析和验证计算机视觉和控制等各种用例中的可靠性和鲁棒性方面的潜力。

Takeaways,Limitations

我们提高了 PREMAP 的效率,并将其扩展到以前难以处理的卷积神经网络。
我们展示了原像近似方法在计算机视觉和控制领域的可靠性和稳健性分析和验证的潜力。
尽管 PREMAP 进行了扩展,但当前的研究主要集中在特定的架构(例如,全连接神经网络和卷积神经网络),而它对其他神经网络架构和复杂的现实世界场景的适用性需要进一步研究。
虽然算法改进提高了效率,但它们在计算上仍然很昂贵,并且扩展到大型模型或高维数据仍然是一个挑战。
👍