Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

RecPS: Điểm rủi ro riêng tư cho hệ thống đề xuất

Created by
  • Haebom

Tác giả

Jiajie He, Yuechun Gu, Keke Chen

Phác thảo

Bài báo này đề xuất một phương pháp để định lượng rủi ro riêng tư của dữ liệu đào tạo cho các hệ thống đề xuất (RecSys). RecSys hiện tại sử dụng dữ liệu tương tác người dùng-mục nhạy cảm, nhưng thiếu bảo vệ quyền riêng tư. Mặc dù người dùng có quyền giữ lại thông tin tương tác nhạy cảm, nhưng vấn đề là rất khó để xác định tương tác nào nhạy cảm hơn. Do đó, bài báo này đề xuất RecPS, một phương pháp đo điểm riêng tư dựa trên các cuộc tấn công suy luận thành viên (MIA). RecPS đo lường rủi ro riêng tư ở cả cấp độ tương tác và người dùng, và điểm số cấp độ tương tác được bắt nguồn từ khái niệm quyền riêng tư khác biệt. Thành phần cốt lõi của nó là RecLiRA, một phương pháp MIA cấp độ tương tác cung cấp ước tính thành viên chất lượng cao. Kết quả thực nghiệm chứng minh rằng điểm số RecPS hiệu quả trong việc đánh giá rủi ro và hủy đào tạo các mô hình RecSys.

Takeaways, Limitations

Takeaways:
Một phương pháp mới để đo lường định lượng rủi ro về quyền riêng tư của dữ liệu đào tạo RecSys (RecPS) được trình bày.
Có thể đánh giá rủi ro về quyền riêng tư ở cấp độ tương tác và người dùng.
Trình bày cơ sở lý thuyết dựa trên khái niệm bảo vệ quyền riêng tư khác biệt
Phát triển thuật toán RecLiRA cung cấp khả năng ước tính thành viên chất lượng cao.
Trình bày tiềm năng của mô hình bỏ học RecSys.
Limitations:
Hiệu suất của RecPS có thể phụ thuộc vào độ chính xác của cuộc tấn công MIA.
Cần phải xác minh hiệu suất tổng quát hóa trên nhiều loại mô hình và dữ liệu RecSys trong các tình huống thực tế.
Cần nghiên cứu thêm về việc thiết lập và triển khai chính sách bảo mật dựa trên điểm RecPS.
Việc tập trung vào các cuộc tấn công MIA cụ thể có thể không bao quát đầy đủ các loại rủi ro vi phạm quyền riêng tư khác.
👍