Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Orthogonal Soft Pruning for Efficient Class Unlearning

Created by
  • Haebom
Category
Empty

저자

Qinghui Gong, Xue Yang, Xiaohu Tang

FedOrtho: 효율적인 연합 학습에서의 데이터 삭제

개요

본 논문은 연합 학습 환경에서 잊음(unlearning)과 유지(retention) 성능 간의 trade-off 문제를 해결하기 위해, 직교화된 딥 컨볼루션 커널과 활성화 기반의 제어 가능한 one-shot soft pruning (OSP) 메커니즘을 결합한 FedOrtho 프레임워크를 제안한다. FedOrtho는 커널 직교성을 강화하고 로컬-글로벌 정렬을 통해 feature representation을 분리하여 client drift를 완화한다. 이는 정확한 one-shot pruning을 가능하게 하여, 98% 이상의 잊음 품질을 달성하고, 계산 및 통신 비용을 대폭 줄인다. CIFAR-10, CIFAR-100, TinyImageNet 데이터셋에서 ResNet 및 VGG 프레임워크를 사용하여 최고 성능을 달성했으며, 97% 이상의 유지 정확도를 유지하면서 멤버십 추론 위험을 완화한다.

시사점, 한계점

시사점:
연합 학습 환경에서 효율적이고 제어 가능한 데이터 삭제를 위한 새로운 프레임워크 제시.
커널 직교화 및 OSP 메커니즘을 통해 잊음 성능과 유지 성능 간의 균형 달성.
클래스, 클라이언트, 샘플 수준의 데이터 삭제 지원.
계산 및 통신 비용 감소 및 서브 세컨드 수준의 삭제 속도 달성.
멤버십 추론 위험 완화.
한계점:
구체적인 한계점 정보는 논문 요약에 명시되지 않음. (논문의 추가적인 내용 검토 필요)
👍