Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

Cristales rotos, cámaras defectuosas: simulación de muestras adversarias basadas en la física para sistemas de conducción autónoma

Created by
  • Haebom

Autor

Manav Prabhakar, Jwalandhar Girnar, Arpan Kusari

Describir

Este artículo se centra en ejemplos de confrontación basados en la física generados por defectos físicos en la cámara de vehículos autónomos. Dos experimentos reales demuestran que la rotura de cristales induce errores en los modelos de detección de objetos basados en redes neuronales. Un estudio basado en simulación que explota los procesos físicos de la rotura de cristales genera ejemplos realistas de confrontación basados en la física. Se utiliza un enfoque basado en modelos de elementos finitos (MEF) para generar grietas superficiales en las imágenes de la cámara mediante la aplicación de un campo de tensión definido por partículas dentro de una malla triangular. Se emplean técnicas de renderizado basado en la física (PBR) para visualizar de forma realista estos defectos físicamente plausibles. El efecto simulado de cristal roto se aplica como filtro de imagen a conjuntos de datos de código abierto como KITTI y BDD100K, y se analizan las implicaciones de seguridad para redes neuronales de detección de objetos como YOLOv8, Faster R-CNN y Pyramid Vision Transformers. Además, se calcula la divergencia de Kullback-Leibler (KL) entre varios conjuntos de datos (nuestra propia grabación, KITTI y los conjuntos de datos de gatos y perros de Kaggle) para investigar el impacto distributivo de la distorsión visual. Los resultados del análisis de divergencia de KL muestran que el filtro de vidrio roto no provoca cambios significativos en la distribución de datos.

Takeaways, Limitations

Takeaways: Destacamos la importancia de los ejemplos adversarios causados por fallos físicos de las cámaras en vehículos autónomos y presentamos una novedosa metodología para simularlos y analizarlos de forma realista. Este artículo ofrece una nueva perspectiva sobre la generación de ejemplos adversarios basados en la física y la evaluación de la seguridad. Confirmamos que el filtro de vidrio roto tiene un impacto mínimo en la distribución de datos.
Limitations: Actualmente, el enfoque se centra exclusivamente en la rotura de cristales, y se necesita más investigación sobre otros tipos de fallos físicos de las cámaras. No se presentan los resultados de pruebas en condiciones reales de carretera. La diversidad del conjunto de datos utilizado puede ser limitada. Se necesita más investigación que considere una gama más amplia de tipos de rotura y condiciones ambientales.
👍