Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

S'attaquer aux effets dévastateurs de l'empoisonnement des données à tâche unique dans l'apprentissage continu sans exemple

Created by
  • Haebom

Auteur

Stanis{\l}aw Pawlak (Université de technologie de Varsovie, Pologne), Bart{\l}omiej Twardowski (Institut de recherche IDEAS, Pologne, Centre de vision par ordinateur, Universitat Autonoma de Barcelona, Espagne), Tomasz Trzci nski (Université de technologie de Varsovie, Pologne, Institut de recherche IDEAS, Pologne), Joost van de Weijer (Centre de vision par ordinateur, Universitat Autonoma de Barcelona, Espagne)

Contour

Cette étude aborde le problème de sécurité de l'empoisonnement des données, un problème négligé dans l'apprentissage continu (AC). Alors que les recherches précédentes se concentraient sur les attaques basées sur des scénarios, cette étude se concentre sur la menace plus simple et plus réaliste de l'empoisonnement d'une tâche unique (STP). Lors d'une attaque STP, l'adversaire n'a accès ni au modèle, ni aux données des tâches précédentes, ni aux données des tâches futures. Il n'a accès qu'aux données de la tâche actuelle dans le flux de données, et nous démontrons qu'il peut dégrader les performances du modèle en exploitant la corruption d'image standard. Les attaques STP perturbent l'ensemble du processus d'apprentissage continu, réduisant à la fois les performances des tâches passées (stabilité) et la capacité d'adaptation aux nouvelles tâches (plasticité). Enfin, nous proposons un cadre de défense de haut niveau pour l'AC, ainsi qu'une méthode de détection des tâches empoisonnées basée sur un vecteur de tâches.

Takeaways, Limitations

•
Takeaways:
◦
Nous révélons la gravité des attaques par empoisonnement à tâche unique (STP) dans l’apprentissage continu.
◦
Présentation d'un cadre de défense efficace contre les attaques STP et d'une méthode de détection des opérations d'empoisonnement.
◦
Nous démontrons que les attaques par empoisonnement de données sont possibles même dans des conditions d’accès limité à l’information.
•
Limitations:
◦
Des recherches supplémentaires sont nécessaires pour évaluer les performances de généralisation et l’applicabilité du cadre de défense proposé aux environnements réels.
◦
Une analyse de types d’attaques plus sophistiqués et plus diversifiés est nécessaire.
◦
Une analyse des coûts de calcul et des performances des mécanismes de défense contre les attaques STP est nécessaire.
👍
Made with Slashpage