Arxiv hàng ngày

Đây là trang tổng hợp các bài báo về trí tuệ nhân tạo được xuất bản trên toàn thế giới.
Trang này sử dụng Google Gemini để tóm tắt nội dung và hoạt động phi lợi nhuận.
Bản quyền của các bài báo thuộc về tác giả và tổ chức liên quan; khi chia sẻ, chỉ cần ghi rõ nguồn.

Cắt qua quyền riêng tư: Một cuộc tấn công tái tạo dữ liệu dựa trên siêu phẳng trong học tập liên bang

Created by
  • Haebom

Tác giả

Francesco Diana, Andre Nusser, Chuan Xu, Giovanni Neglia

Phác thảo

Bài báo này trình bày một phương pháp tấn công tái tạo dữ liệu mới nhằm giải quyết lỗ hổng của máy chủ trung tâm độc hại trong Học liên bang (Federated Learning - FL), nơi nó có thể tái tạo dữ liệu riêng tư của khách hàng. Chúng tôi khắc phục những hạn chế của các phương pháp hiện có, vốn dựa trên các giả định về phân phối dữ liệu khách hàng (__T43627_____) và có hiệu quả kém ở kích thước lô nhỏ. Bằng cách tận dụng góc nhìn hình học mới trên các lớp được kết nối đầy đủ, chúng tôi tạo ra các tham số mô hình độc hại có thể tái tạo hoàn hảo các lô dữ liệu có kích thước tùy ý mà không cần biết trước dữ liệu khách hàng. Các thí nghiệm trên các tập dữ liệu hình ảnh và bảng cho thấy phương pháp của chúng tôi vượt trội hơn các phương pháp hiện có, đạt được khả năng tái tạo hoàn hảo các lô dữ liệu lớn hơn gấp hai lần so với phương pháp hiệu suất tốt nhất trước đây.

Takeaways, Limitations

Takeaways:
Nó đặt ra thách thức nghiêm trọng đối với các niềm tin hiện có về việc đảm bảo quyền riêng tư dữ liệu trong học tập liên bang.
Chúng tôi trình bày một kỹ thuật tấn công mới có thể khắc phục những hạn chế của các cuộc tấn công tái tạo dữ liệu hiện có.
Cho phép tái tạo dữ liệu hiệu quả cho các lô dữ liệu lớn.
Cung cấp Takeaways quan trọng để tăng cường bảo mật cho các hệ thống học tập liên bang.
Limitations:
Kỹ thuật tấn công được trình bày tập trung vào một loại kiến ​​trúc mạng nơ-ron cụ thể (các lớp được kết nối đầy đủ) và có thể không áp dụng được cho các mạng nơ-ron có kiến ​​trúc khác.
Nó có thể không phản ánh đầy đủ sự phức tạp của môi trường học tập liên bang trong thế giới thực.
Sự thành công của một cuộc tấn công có thể phụ thuộc vào đặc điểm của tập dữ liệu.
👍