Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

RecPS : évaluation des risques liés à la confidentialité pour les systèmes de recommandation

Created by
  • Haebom

Auteur

Jiajie He, Yuechun Gu, Keke Chen

Contour

Cet article propose une méthode permettant de quantifier le risque d'atteinte à la vie privée lié aux données d'entraînement des systèmes de recommandation (RecSys). Les RecSys existants utilisent des données sensibles d'interaction utilisateur-élément, mais ne garantissent pas la protection de la vie privée. Si les utilisateurs ont le droit de ne pas divulguer d'informations sensibles sur leurs interactions, il est difficile de déterminer quelles interactions sont les plus sensibles. Par conséquent, cet article propose RecPS, une méthode de mesure du score de confidentialité basée sur des attaques par inférence d'appartenance (AIA). RecPS mesure le risque d'atteinte à la vie privée aux niveaux interaction et utilisateur, et le score au niveau interaction est dérivé du concept de confidentialité différentielle. Son composant principal est RecLiRA, une méthode AIA au niveau interaction qui fournit une estimation de l'appartenance de haute qualité. Les résultats expérimentaux démontrent l'efficacité du score RecPS pour l'évaluation des risques et le désentraînement des modèles RecSys.

Takeaways, Limitations

•
Takeaways:
◦
Une nouvelle méthode de mesure quantitative du risque de confidentialité des données de formation RecSys (RecPS) est présentée.
◦
L’évaluation des risques liés à la confidentialité au niveau de l’interaction et de l’utilisateur est possible.
◦
Présentation des bases théoriques basées sur le concept de protection différentielle de la vie privée
◦
Développement de l'algorithme RecLiRA qui fournit une estimation d'adhésion de haute qualité.
◦
Présentation du potentiel de désapprentissage du modèle RecSys.
•
Limitations:
◦
Les performances de RecPS peuvent dépendre de la précision de l’attaque MIA.
◦
La vérification des performances de généralisation sur différents types de modèles et de données RecSys dans des situations réelles est requise.
◦
Des recherches supplémentaires sont nécessaires sur l’établissement et la mise en œuvre de politiques de confidentialité basées sur les scores RecPS.
◦
Se concentrer sur des attaques MIA spécifiques peut ne pas couvrir de manière adéquate d’autres types de risques de violation de la vie privée.
👍
Made with Slashpage