Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

Ataques generativos conscientes de la estructura semántica para una mejor transferibilidad adversarial

Created by
  • Haebom

Autor

Jongoh Jeong, Hunmin Yang, Jaeseok Jeong, Kuk-Jin Yoon

Describir

Este artículo propone un nuevo marco para mejorar la transferibilidad de los ataques generativos adversarios. Los ataques generativos adversarios existentes presentan el problema de que las perturbaciones adversarias no están bien alineadas con las regiones críticas del objeto debido a las capacidades de representación insuficientes de los modelos generativos. En este artículo, presentamos un marco de ataque basado en el método Mean Teacher, que tiene en cuenta la estructura semántica y genera perturbaciones utilizando información semántica extraída de las activaciones intermedias del generador. En particular, utilizamos la destilación de características, una técnica que mejora la consistencia entre las activaciones de la capa inicial del modelo del estudiante y las activaciones del modelo semánticamente rico del profesor, para inducir que las perturbaciones se centren en las regiones críticas del objeto. El método propuesto demuestra una transferibilidad superior a la de los métodos existentes en diversos modelos, dominios y tareas, y se evalúa mediante métricas de Tasa de Corrección Accidental (ACR) existentes y propuestas recientemente.

Takeaways, Limitations

Takeaways:
Se presenta un nuevo método para mejorar la transferibilidad de ataques generativos adversarios.
Utilice eficazmente la información semántica aprovechando las activaciones intermedias de modelos generativos.
Validación de la efectividad de un marco de ataque de reconocimiento de estructura semántica utilizando técnicas de profesor medio y destilación de características.
Propuesta de una nueva métrica de evaluación, Tasa de Corrección Accidental (ACR).
Limitations:
Los métodos basados ​​en la media docente pueden no garantizar un rendimiento óptimo en todas las situaciones.
El costo computacional del método propuesto puede ser mayor que el de los métodos existentes.
Se necesita más investigación sobre la aplicabilidad general del índice ACR.
👍