Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

GRILL : Restauration du signal de gradient dans les couches mal conditionnées pour améliorer les attaques adverses sur les auto-encodeurs

Created by
  • Haebom

Auteur

Chethan Krishnamurthy Ramanaik, Arjun Roy, Tobias Callies, Eirini Ntoutsi

Contour

Cet article étudie la robustesse antagoniste des autoencodeurs profonds (AE). Nous soulignons le problème de la sous-optimisation des algorithmes d'attaque antagoniste existants en raison de la nature irréversible des AE. Plus précisément, nous observons que les gradients de perte antagoniste propagés dans les couches mal conditionnées disparaissent. Ceci est dû à l'affaiblissement du signal de gradient dû à des valeurs singulières de la matrice jacobienne de ces couches, approximativement nulles. Par conséquent, nous proposons la technique GRILL, qui restaure localement le signal de gradient dans les couches mal conditionnées. Des expériences approfondies sous diverses structures d'AE et configurations d'attaque (attaques spécifiques à un échantillon et à usage général, attaques standard et adaptatives) démontrent que GRILL améliore significativement l'efficacité des attaques antagonistes, permettant une évaluation plus rigoureuse de la robustesse des AE.

Takeaways, Limitations_

Takeaways:
Nous présentons une nouvelle perspective et une nouvelle approche pour évaluer la robustesse contradictoire de l’AE.
La technique GRILL peut améliorer l’efficacité des algorithmes d’attaque adverses existants.
Permet une évaluation plus rigoureuse et plus efficace de la robustesse des AE.
Limitations:
L'efficacité de la technique GRILL peut varier en fonction des structures AE spécifiques et des paramètres d'attaque.
Des recherches supplémentaires sont nécessaires pour déterminer si la technique GRILL est efficace contre tous les types d’attaques adverses.
Des recherches supplémentaires sont nécessaires pour valider les performances de la technique GRILL dans des environnements d’application réels.
👍