Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

RecPS: Puntuación de riesgo de privacidad para sistemas de recomendación

Created by
  • Haebom

Autor

Jiajie He, Yuechun Gu, Keke Chen

Describir

Este artículo propone un método para cuantificar el riesgo de privacidad de los datos de entrenamiento para sistemas de recomendación (RecSys). El sistema RecSys actual utiliza datos sensibles de interacción usuario-elemento, pero carece de protección de la privacidad. Si bien los usuarios tienen derecho a retener información sensible sobre sus interacciones, el problema radica en la dificultad de determinar cuáles son más sensibles. Por lo tanto, este artículo propone RecPS, un método de medición de la puntuación de privacidad basado en ataques de inferencia de membresía (MIA). RecPS mide el riesgo de privacidad tanto a nivel de interacción como de usuario, y la puntuación a nivel de interacción se deriva del concepto de privacidad diferencial. Su componente principal es RecLiRA, un método MIA a nivel de interacción que proporciona una estimación de membresía de alta calidad. Los resultados experimentales demuestran que la puntuación RecPS es eficaz para la evaluación de riesgos y el desentrenamiento de los modelos RecSys.

Takeaways, Limitations

Takeaways:
Se presenta un nuevo método para medir cuantitativamente el riesgo de privacidad de los datos de entrenamiento de RecSys (RecPS).
Es posible evaluar el riesgo de privacidad a nivel de interacción y de usuario.
Presentación de la base teórica basada en el concepto de protección diferencial de la privacidad
Desarrollo del algoritmo RecLiRA que proporciona una estimación de membresía de alta calidad.
Presentando el potencial de desaprendizaje del modelo RecSys.
Limitations:
El rendimiento de RecPS puede depender de la precisión del ataque MIA.
Se requiere verificar el rendimiento de generalización en varios tipos de modelos y datos de RecSys en situaciones del mundo real.
Se necesita más investigación sobre el establecimiento e implementación de políticas de privacidad basadas en los puntajes RecPS.
Centrarse en ataques MIA específicos puede no cubrir adecuadamente otros tipos de riesgos de violación de la privacidad.
👍