Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

SCALEX: Scalable Concept and Latent Exploration for Diffusion Models

Created by
  • Haebom
Category
Empty

저자

E. Zhixuan Zeng, Yuhao Chen, Alexander Wong

SCALEX: Diffusion Model 잠재 공간의 확장 가능한 탐색 프레임워크

개요

이미지 생성 모델은 성별, 인종, 직업과 관련된 고정관념을 포함한 사회적 편향을 자주 내포한다. 기존의 확산 모델 내 편향 분석 방법은 미리 정의된 범주에 좁게 초점을 맞추거나 잠재 방향의 수동적 해석에 의존한다. 이러한 제약은 확장성을 제한하고 미묘하거나 예상치 못한 패턴 발견을 방해한다. SCALEX는 자연어 프롬프트만을 사용하여 H-공간에서 의미적으로 의미 있는 방향을 추출하는 프레임워크로, 재훈련이나 라벨링 없이 제로샷 해석을 가능하게 한다. 이를 통해 임의의 개념 간의 체계적인 비교와 내부 모델 연관성의 대규모 발견이 가능하다. SCALEX는 직업 프롬프트에서 성별 편향을 감지하고, 정체성 설명자에 걸쳐 의미적 정렬을 순위를 매기며, 비지도 방식으로 클러스터링된 개념 구조를 보여준다. 프롬프트를 잠재 방향에 직접 연결함으로써, SCALEX는 확산 모델 내 편향 분석을 이전 방식보다 더 확장 가능하고, 해석 가능하며, 확장 가능하게 만든다.

시사점, 한계점

확산 모델 잠재 공간의 확장 가능하고 자동화된 탐색 프레임워크 제공
자연어 프롬프트를 사용하여 제로샷 해석 가능
성별 편향 감지, 의미적 정렬 순위, 클러스터링된 개념 구조 발견
확장성, 해석 가능성 및 확장성 향상
세부적인 한계점은 논문에 명시되지 않음
👍