每日 Arxiv

本页面整理了世界各地发表的人工智能相关论文。
本页面使用 Google Gemini 汇总而成，并以非盈利为基础运营。
论文版权归作者及相关机构所有，分享时请注明出处。

对在线排名学习的无观察攻击

Created by
  • Haebom

作者

Sameep Chattopadhyay、Nikhil Karamchandani、Sharayu Moharir

大纲

在线排名学习 (OLTR) 在信息检索和机器学习系统中起着至关重要的作用，并广泛应用于搜索引擎和内容推荐系统。然而，尽管 OLTR 算法被广泛使用，但人们对其易受系统性对抗攻击的弱点缺乏认识。在本研究中，我们提出了一个用于攻击广泛使用的 OLTR 算法的新颖框架。该框架旨在在学习算法中引入线性遗憾，同时确保目标项目集在 T - o(T) 轮内出现在前 K 个推荐列表中。我们提出了两种新颖的攻击策略：用于 CascadeUCB1 的 CascadeOFA 和用于 PBM-UCB 的 PBMOFA。这两种策略都提供了理论保证，即仅需 O(log T) 操作即可成功。我们通过对真实数据的实验结果进一步补充了我们的理论分析。

Takeaways，Limitations

•
Takeaways：
◦
提出了一个新框架来证明 OLTR 算法对对抗性攻击的脆弱性。
◦
开发了两种新的攻击策略：CascadeOFA和PBMOFA。
◦
为所提出的攻击策略的成功提供了理论保证。
◦
通过真实数据实验补充理论分析。
•
Limitations：
◦
针对特定 OLTR 算法（CascadeUCB1、PBM-UCB）的攻击策略。
◦
需要进一步研究来确定对其他 OLTR 算法的普遍性。
◦
需要进行真实世界的影响评估来评估攻击所需的操纵量。
👍
Made with Slashpage