Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

Ataques generativos conscientes de la estructura semántica para una mejor transferibilidad adversarial

Created by
  • Haebom

Autor

Jongoh Jeong, Hunmin Yang, Jaeseok Jeong, Kuk-Jin Yoon

Describir

Este artículo propone un nuevo marco para mejorar la transferibilidad de los ataques generativos adversarios. Los ataques generativos adversarios existentes adolecen de una falta de poder de representación suficiente de los modelos generativos, lo que provoca una desalineación de las perturbaciones con las regiones significativas de los objetos. En este estudio, presentamos un marco de ataque basado en el método Mean Teacher, consciente de la estructura semántica, que genera perturbaciones aprovechando la información semántica extraída de las activaciones intermedias del generador. Específicamente, utilizamos la destilación de características, una técnica que mejora la consistencia entre las activaciones de la capa inicial del modelo del estudiante y el modelo semánticamente rico del profesor, para generar perturbaciones adversarias dirigidas a regiones semánticamente significativas. Experimentos en diversos modelos, dominios y tareas demuestran nuestro rendimiento mejorado en comparación con los métodos de vanguardia existentes. También presentamos una nueva métrica, la Tasa de Corrección Accidental (ACR), para su evaluación.

Takeaways, Limitations

Takeaways:
Se presenta un nuevo método para mejorar la transferibilidad de ataques generativos adversarios.
Utilice eficazmente la información semántica aprovechando activaciones intermedias en modelos generativos.
Verificación experimental de la superioridad del marco de ataque consciente de la estructura semántica.
Presentamos una nueva métrica de evaluación, ACR
Limitations:
Limitaciones estructurales de confiar en el modelo del profesor medio
Se necesitan más investigaciones para determinar la generalización del índice ACR.
Necesidad de revisar las dependencias en modelos de producción específicos y la extensibilidad a otros modelos de producción
👍