Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

CRCE: Coreference-Retention Concept Erasure in Text-to-Image Diffusion Models

Created by
  • Haebom
Category
Empty

저자

Yuyang Xue, Edward Moroshko, Feng Chen, Steven McDonagh, Sotirios A. Tsaftaris

개요

텍스트-이미지 확산 모델은 원치 않는 콘텐츠를 생성할 수 있으며, 이를 해결하기 위해 개념 삭제 기술이 필요합니다. 하지만 기존 방법들은 부분적인 삭제(잔여 개념 흔적 남음) 또는 과도한 삭제(관련 없는 유사 개념까지 삭제) 문제를 겪습니다. 본 논문에서는 대규모 언어 모델을 활용하여, 목표 개념과 함께 삭제해야 할 의미적으로 관련된 개념과 보존해야 할 개념을 식별하는 새로운 개념 삭제 프레임워크인 CRCE를 제안합니다. CRCE는 공참조 및 보존 개념을 명시적으로 모델링함으로써 의도치 않은 삭제 없이 더욱 정확한 개념 제거를 가능하게 합니다. 실험 결과, CRCE는 다양한 삭제 작업에서 기존 방법보다 우수한 성능을 보여줍니다.

시사점, 한계점

시사점:
대규모 언어 모델을 활용하여 더욱 정확하고 정교한 개념 삭제가 가능함을 보여줌.
기존 개념 삭제 방법의 한계점인 과도한 삭제 및 부분적인 삭제 문제를 효과적으로 해결.
다양한 삭제 작업에 적용 가능한 범용적인 개념 삭제 프레임워크 제시.
한계점:
제안된 방법의 성능 평가에 사용된 데이터셋 및 작업의 범위가 제한적일 수 있음.
대규모 언어 모델의 성능에 의존적이므로, 언어 모델의 한계가 CRCE의 성능에도 영향을 미칠 수 있음.
실제 이미지 생성 과정에서의 복잡성 및 계산 비용에 대한 고려가 필요함.
👍