Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Enhancing Diffusion Model Guidance through Calibration and Regularization

Created by
  • Haebom
Category
Empty

저자

Seyed Alireza Javid, Amirhossein Bagheri, Nuria Gonzalez-Prelcic

개요

본 논문은 분류기 기반 확산 모델의 문제점인 초기 노이즈 제거 단계에서의 과도한 확신으로 인한 지침 기울기 소실 문제를 해결하기 위해 두 가지 주요 기법을 제시한다. 첫째, 최소한의 미세 조정으로 분류기 보정을 개선하고 FID를 향상시키는 Smooth ECE 기반의 차분 가능한 보정 목표를 제안한다. 둘째, 재훈련 없이 사용할 수 있는 향상된 샘플링 지침 방법을 개발한다. 여기에는 배치 수준의 가중치를 갖는 기울어진 샘플링, 다양성을 유지하는 적응형 엔트로피 정규화 샘플링, 그리고 모드 커버리지를 유지하면서 클래스 일관성 지침을 강화하는 새로운 f-발산 기반 샘플링 전략이 포함된다. ImageNet 128x128 데이터셋에서 ResNet-101 분류기를 사용한 실험 결과, 본 논문의 발산 정규화 지침은 FID 2.13을 달성하여 기존 분류기 기반 확산 모델을 능가하며, 확산 모델의 재훈련이 필요하지 않음을 입증했다.

시사점, 한계점

시사점:
Smooth ECE 기반의 보정 목표를 통해 분류기의 보정을 개선하고, 이를 통해 FID를 향상시킬 수 있다.
재훈련 없이 사용할 수 있는 향상된 샘플링 지침 방법을 통해 성능을 개선할 수 있다.
f-발산 기반 샘플링 전략을 통해 클래스 일관성을 강화하면서 모드 커버리지를 유지할 수 있다.
제안된 방법들은 확산 모델 재훈련 없이 기존 분류기를 활용하여 성능을 향상시킬 수 있다.
한계점:
논문에서 구체적인 한계점에 대한 언급은 없음.
👍