Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Semantic Structure-Aware Generative Attacks for Enhanced Adversarial Transferability

Created by
  • Haebom

作者

Jongoh Jeong, Hunmin Yang, Jaeseok Jeong, Kuk-Jin Yoon

概要

この論文は、生成的敵対的攻撃の転移の可能性を向上させる新しいフレームワークを提案します。既存の生成的敵対的攻撃は生成モデルの表現能力を十分に活用できず、敵対的摂動がオブジェクトの重要領域とよく整列しない問題がありました。本論文では、Mean Teacherベースの意味構造認識攻撃フレームワークを提示し、コンストラクタの中間活性化(intermediate activations)から抽出した意味情報を活用して摂動を生成します。特に、学生モデルの初期層の活性化と意味的に豊富な教師モデルの活性化との間の一貫性を高める特徴蒸留技術を使用して、摂動がオブジェクトの重要な領域に集中するように誘導します。提案された方法は、さまざまなモデル、ドメイン、およびタスクにわたる従来の方法よりも優れた遷移の可能性を示し、既存の指標と新しく提案されたAccidental Correction Rate(ACR)指標によって評価されます。

Takeaways、Limitations

Takeaways:
生成的敵対的攻撃の転移の可能性を改善する新しい方法の提示
生成モデルの中間活性化を活用して意味情報を効果的に活用。
Mean Teacherと特徴蒸留技術を活用した意味構造認識攻撃フレームワークの有効性検証
新しい評価指標である Accidental Correction Rate (ACR) 提案。
Limitations:
Mean Teacherベースの方法は、すべての状況で最適なパフォーマンスを保証するわけではありません。
提案された方法の計算コストが従来の方法よりも高くなる可能性がある。
ACR指標の一般的な適用性に関するさらなる研究の必要性
👍