Selective Fine-Tuning for Targeted and Robust Concept Unlearning

Created by

Haebom

저자

Mansi, Avinash Kori, Francesca Toni, Soteris Demetriou

💡 개요

본 논문은 텍스트 안내 확산 모델에서 유해 콘텐츠 생성을 방지하기 위한 개념 제거(concept unlearning) 문제를 다룹니다. 기존의 개별 개념 제거 방식의 한계를 극복하고, 계산 비용이 많이 드는 전체 미세 조정 대신 효율적인 선택적 미세 조정을 제안합니다. 이를 위해 Hessian 기반 정규화를 활용하여 대상 개념 뉴런을 동적으로 추정하고 제거하는 TRUST(Targeted Robust Selective Fine-Tuning) 방법론을 개발했습니다.

🔑 시사점 및 한계

•

개념 조합 및 조건부 개념 제거 가능성: TRUST는 단일 개념뿐만 아니라 복합적인 개념 및 조건부 개념까지 효과적으로 제거할 수 있음을 입증했습니다.

•

효율성과 강건성: 기존 최신 기법 대비 현저히 빠른 속도를 보이면서도, 적대적인 프롬프트에 대한 강건성을 유지하고 생성 품질 저하를 최소화합니다.

•

동적 뉴런 추정의 중요성: 고정된 방식이 아닌 동적으로 대상 개념 뉴런을 추정함으로써 최적화된 제거 성능을 달성할 수 있습니다.

•

일반화 및 해석 가능성: TRUST의 성능을 다양한 유해 콘텐츠 시나리오에 대해 추가적으로 검증하고, 뉴런 추정 방식의 해석 가능성을 높이는 연구가 필요합니다.

PDF 보기

Made with Slashpage