Daily Arxiv

世界中で発行される人工知能関連の論文をまとめるページです。
このページはGoogle Geminiを活用して要約し、非営利で運営しています。
論文の著作権は著者および関連機関にあり、共有する際は出典を明記してください。

Fractured Glass, Failing Cameras: Simulating Physics-Based Adversarial Samples for Autonomous Driving Systems

Created by
  • Haebom

作者

Manav Prabhakar, Jwalandhar Girnar, Arpan Kusari

概要

この論文は、自律走行車のカメラ内部の物理的な故障によって引き起こされる物理ベースの敵対的な例に焦点を当てています。実際の世界実験の2つは、ガラス破損がニューラルネットワークベースのオブジェクト検出モデルの誤差を引き起こすことを示しており、ガラス破損の物理的プロセスを使用したシミュレーションベースの研究を通じて、現実的な物理ベースの敵対的な例を作成します。有限要素モデル(FEM)ベースのアプローチを使用して、三角形メッシュ内の粒子によって定義された応力場を適用してカメラ画像に表面亀裂を生成し、物理ベースレンダリング(PBR)技術を使用してこれらの物理的に妥当な破損をリアルに可視化します。 KITTIやBDD100Kなどのオープンソースデータセットにシミュレートされた壊れたガラス効果を画像フィルタとして適用し、YOLOv8、Faster R-CNN、Pyramid Vision Transformersなどの物体検出ニューラルネットワークに対する安全性の影響を分析します。さらに、壊れたガラスフィルタを適用した様々なデータセット(自己撮影データ、KITTI、Kaggle猫、犬のデータセット)間のKullback-Leibler(KL)divergenceを計算して、視覚的歪みの分布の影響を調べます。 KL divergence分析は,壊れたガラスフィルタがデータ分布に大きな変化を引き起こさないことを示した。

Takeaways、Limitations

Takeaways:自律走行車のカメラの物理的な故障による敵対的な例の重要性を強調し、それを現実的にシミュレートして分析する新しい方法論を提示します。物理ベースの敵対的な例の作成と安全性評価のための新しい視点を提供します。壊れたガラスフィルターがデータ分布に与える影響は大きくないことを確認した。
Limitations:現在はガラスの破損にのみ集中しており、他の種類のカメラの物理的な故障の研究がさらに必要です。実際の道路環境での試験結果は示されていない。使用されるデータセットの多様性は限定的であり得る。より多様な種類の破壊と環境条件を考慮したさらなる研究が必要である。
👍