Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

BadHMP: Backdoor Attack against Human Motion Prediction

Created by
  • Haebom

作者

Chaohui Xu, Si Wang, Chip-Hong Chang

概要

本論文は、サブ秒単位の将来の人間の動きの予測に対するスケルトンベースのニューラルネットワークの脆弱性、特に回避攻撃とバックドア攻撃に対する脆弱性を扱う。研究チームは、人間の動きの予測を特別に標的とする新しいバックドア攻撃であるBadHMPを提案します。 BadHMPは、骨格の一部に限定されたバックドアトリガーを挿入することによって生成された有毒なトレーニングサンプルを使用します。このトリガーは、特定の関節が過去の時間ステップで事前定義された動作に従うように誘導し、その後、将来のシーケンスは、すべての関節が目標軌道に沿って移動するように全体的に変更されます。慎重に設計されたバックドアトリガーと目標は、毒性サンプルの滑らかさと自然さを保証し、モデルトレーナーが検出しにくく、汚染されていないシーケンスの予測忠実度の観点から毒性モデルが目立たないようにします。低毒性のサンプル注入率でも、設計された入力シーケンスによってターゲットシーケンスを正常にアクティブにすることができます。 Human3.6MとCMU-Mocapの2つのデータセットとLTDとHRIの2つのネットワークアーキテクチャの実験結果は、BadHMPの高い忠実度、効果、および秘密性を示しています。また、微調整防御に対する攻撃の強力さも検証された。

Takeaways、Limitations

Takeaways:
人間の動き予測モデルのバックドアの脆弱性を効果的に攻撃する新しい方法(BadHMP)を提示します。
BadHMPの高い成功率と秘密性を実験的に検証
微調整防御に対するBadHMPの堅牢性を確認
安全に重要なアプリケーションにおける人工知能モデルのセキュリティの重要性を強調。
Limitations:
提案された攻撃が特定の種類のモデルとデータセットに限定される可能性があります。
実際の世界シナリオにおけるBadHMPの効果に関するさらなる研究の必要性
より強力な防御技術の研究が必要です。
様々なバックドアトリガと目標に対するBadHMPの一般化性能のさらなる分析の必要性
👍