Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

Về mặt lý thuyết, vạch trần các cuộc tấn công suy luận chống lại các máy khách được LDP bảo vệ trong các mô hình tầm nhìn liên bang

Created by
  • Haebom

Tác giả

Quân Nguyễn, Minh N. Vũ, Trúc Nguyên, Mỹ T. Thái

Phác thảo

Bài báo này đề cập đến các rủi ro về quyền riêng tư trong học liên kết, đặc biệt là tính dễ bị tấn công suy luận thành viên (MIA). Chúng tôi nhấn mạnh rằng các nghiên cứu hiện tại hoặc không xem xét đến quyền riêng tư vi phân cục bộ (LDP) hoặc không cung cấp các đảm bảo lý thuyết về tỷ lệ thành công của các cuộc tấn công trên dữ liệu được bảo vệ bằng LDP. Chúng tôi đưa ra các giới hạn dưới lý thuyết về tỷ lệ thành công của các MIA thời gian đa thức thấp khai thác các lỗ hổng trong các lớp kết nối hoàn toàn hoặc lớp tự chú ý. Các đánh giá thực nghiệm trên các mô hình thị giác liên kết chứng minh rằng các rủi ro về quyền riêng tư vẫn tồn tại ngay cả với LDP, và việc sử dụng nhiễu để giảm thiểu các cuộc tấn công làm giảm đáng kể tính hữu dụng của mô hình.

Takeaways, Limitations

_____T21487____-: Chúng tôi chứng minh rằng việc áp dụng LDP không loại bỏ hoàn toàn rủi ro MIA trong học liên kết, đòi hỏi sự đánh đổi giữa quyền riêng tư và tính hữu dụng của mô hình. Chúng tôi chứng minh rõ ràng những hạn chế của LDP bằng cách đưa ra giới hạn dưới lý thuyết về MIA thời gian đa thức thấp.
Limitations: Nghiên cứu này chỉ giới hạn ở việc phân tích các loại mạng nơ-ron cụ thể (lớp kết nối hoàn toàn và lớp tự chú ý), và cần nghiên cứu thêm để xác định khả năng khái quát hóa cho các kiến trúc khác. Đánh giá thực nghiệm chỉ giới hạn ở một mô hình thị giác liên kết cụ thể, và khả năng khái quát hóa cho các mô hình hoặc tập dữ liệu khác cần được xác minh. Hiện vẫn chưa có phương pháp luận cụ thể để tìm ra sự cân bằng tối ưu giữa quyền riêng tư và hiệu suất mô hình.
👍