Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Attaques génératives tenant compte de la structure sémantique pour une transférabilité antagoniste améliorée

Created by
  • Haebom

Auteur

Jongoh Jeong, Hunmin Yang, Jaeseok Jeong, Kuk-Jin Yoon

Contour

Cet article propose un nouveau cadre pour améliorer la transférabilité des attaques antagonistes génératives. Les attaques antagonistes génératives existantes souffrent d'un manque de puissance de représentation des modèles génératifs, ce qui entraîne un désalignement des perturbations avec les régions significatives des objets. Dans cette étude, nous présentons un cadre d'attaque basé sur le générateur de moyennes, conscient de la structure sémantique, qui génère des perturbations en exploitant les informations sémantiques extraites des activations intermédiaires du générateur. Plus précisément, nous utilisons la distillation de caractéristiques, une technique qui améliore la cohérence entre les activations de la couche initiale du modèle étudiant et le modèle enseignant, riche en sémantique, pour générer des perturbations antagonistes ciblant les régions sémantiquement significatives. Des expériences sur différents modèles, domaines et tâches démontrent nos performances améliorées par rapport aux méthodes de pointe existantes. Nous présentons également une nouvelle mesure, le taux de correction accidentelle (ACR), pour évaluation.

Takeaways, Limitations_

Takeaways:
Une nouvelle méthode visant à améliorer la transférabilité des attaques adverses génératives est présentée.
Utiliser efficacement les informations sémantiques en exploitant les activations intermédiaires dans les modèles génératifs.
Vérification expérimentale de la supériorité du cadre d’attaque sensible à la structure sémantique.
Présentation d'une nouvelle mesure d'évaluation, l'ACR
Limitations:
Limites structurelles du recours au modèle de l'enseignant moyen
Des recherches supplémentaires sont nécessaires pour déterminer la généralisabilité de l’indice ACR.
Il est nécessaire de revoir les dépendances sur des modèles de production spécifiques et l'extensibilité à d'autres modèles de production
👍