Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Automatically Detecting Online Deceptive Patterns

Created by
  • Haebom

作者

Asmit Nayak, Shirley Zhang, Yash Wani, Rishabh Khandelwal, Kassem Fawaz

概要

この論文は、デジタルインターフェースの詐欺的なパターンを自動的に識別して軽減するAutoBotフレームワークを提示します。 AutoBotはウェブサイトのスクリーンショットを分析し、HTMLコードなしで詐欺的なパターンを正確に識別し、場所を特定します。特別なビジョンモデルと大規模言語モデル(LLM)を活用した2段階のパイプラインを使用して、ウェブサイトの視覚的およびテキスト的特徴を分析して、詐欺的なパターンを決定します。さらに、「教師」LLMから知識を抽出して、より小さな言語モデルを学習するために、AutoBotを使用して合成データセットを作成します。 AutoBotは、ユーザー向けのブラウザ拡張機能、開発者向けのLighthouse監査ツール、研究者、規制機関向けの測定ツールなど、3つのサブアプリケーションで実装されており、さまざまなWebステークホルダーをサポートしています。評価の結果、詐欺的なパターン検出で0.93のF1スコアを達成し、効果を実証した。

Takeaways、Limitations

Takeaways:
ウェブサイトの詐欺的なパターンを効果的に識別して軽減するための新しいフレームワーク(AutoBot)の提示。
HTMLコードに依存せずにスクリーンショットだけで分析可能。
ユーザー、開発者、研究者/規制機関など、さまざまな利害関係者のためのアプリケーションを提供します。
高精度(F1-score 0.93)達成。
LLMを利用した合成データセットの生成方法の提示
Limitations:
特定の種類の詐欺的なパターンのパフォーマンス評価結果のみを提示し、さまざまな種類の詐欺パターンの一般化パフォーマンス検証が必要です。
スクリーンショットベースの分析による動的なWeb要素の変化に対する応答力の限界が存在する可能性。
LLMの性能依存性による偏りと誤差の可能性
長期にわたる詐欺パターン変化に対する適応力評価の不十分
👍