Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Sculpting Memory: Multi-Concept Forgetting in Diffusion Models via Dynamic Mask and Concept-Aware Optimization

Created by
  • Haebom

저자

Gen Li, Yang Xiao, Jie Ji, Kaiyuan Deng, Bo Hui, Linke Guo, Xiaolong Ma

개요

텍스트-이미지 확산 모델은 고품질 이미지 생성에 괄목할 만한 성과를 거두었지만, 방대한 지식 저장 능력으로 인해 저작권 콘텐츠 제거, 편향 감소, 유해 개념 제거 등 선택적 망각이 필요한 상황에서 문제가 발생합니다. 기존의 언러닝 방법은 특정 개념을 제거할 수 있지만, 불안정성, 잔류 지식 지속, 생성 품질 저하로 인해 다중 개념 망각에는 어려움을 겪습니다. 이러한 문제를 해결하기 위해 본 논문에서는 확산 모델의 다중 개념 망각을 위한 새로운 언러닝 프레임워크인 **동적 마스크와 개념 인식 손실(Dynamic Mask coupled with Concept-Aware Loss)**을 제안합니다. 동적 마스크 메커니즘은 현재 최적화 상태에 따라 기울기 마스크를 적응적으로 업데이트하여 관련 없는 지식과의 간섭을 방지하는 선택적 가중치 수정을 허용합니다. 또한, 개념 인식 손실은 상위 클래스 정렬을 통해 의미적 일관성을 강화하여 언러닝 과정을 명시적으로 안내하는 동시에, 지식 증류 기반의 규제 손실을 통해 이전에 언러닝된 개념이 순차적 언러닝 중에 계속 잊혀지도록 합니다. 광범위한 실험을 통해 제안된 방법을 평가한 결과, 특히 다중 개념 시나리오에서 기존 언러닝 기법보다 망각 효율성, 출력 충실도, 의미적 일관성이 뛰어남을 보여줍니다. 본 연구는 생성 모델에서 안정적이고 고충실도의 언러닝을 위한 원칙적이고 유연한 프레임워크를 제공하며, 코드는 공개적으로 배포될 예정입니다.

시사점, 한계점

시사점:
다중 개념 망각 문제를 효과적으로 해결하는 새로운 언러닝 프레임워크 제시
동적 마스크와 개념 인식 손실을 통해 망각 효율성, 출력 충실도, 의미적 일관성 향상
생성 모델의 안정적이고 고충실도의 언러닝을 위한 원칙적이고 유연한 프레임워크 제공
공개 코드 배포를 통한 접근성 향상
한계점:
제안된 방법의 일반화 성능에 대한 추가적인 연구 필요
다양한 유형의 확산 모델 및 다양한 데이터셋에 대한 실험적 검증 필요
극단적인 다중 개념 망각 시나리오에서의 성능 저하 가능성 존재 (명시적으로 언급되지는 않았지만, 다중 개념 망각의 어려움을 언급한 점을 고려하여 추론)
👍