Probability-Conserving Flow Guidance

작성자

Haebom

카테고리

Empty

저자

Parsa Esmati, Junha Hyung, Amirhossein Dadashzadeh, Jaegul Choo, Majid Mirmehdi

💡 개요

기존의 확산 및 흐름 기반 생성 모델에서 사용되는 가이드 방식은 샘플이 학습된 데이터 다양체에서 벗어나 확률 보존을 위반하는 문제가 있습니다. 본 논문에서는 연속 방정식 분석을 통해 가이드 방식의 효과를 발산항과 스코어 평행항으로 분해하고, 샘플링이 데이터 다양체에 가까워질수록 발산항이 발산하는 것을 확인했습니다. 이를 바탕으로 시간 종속 스케줄링과 스코어 평행항 감쇠를 결합한 Adaptive Manifold Guidance (AdaMaG)를 제안하여 추가적인 계산 비용 없이 확률 보존 위반 문제를 해결하고 생성 품질을 향상시켰습니다.

🔑 시사점 및 한계

•

기존의 가이드 방식이 확률 보존을 위반하고 샘플을 데이터 다양체에서 벗어나게 하는 근본적인 이유를 수학적으로 분석했습니다.

•

시간 종속 스케줄링과 스코어 평행항 감쇠를 결합한 AdaMaG를 통해 계산 비용 증가 없이 생성 모델의 성능을 효과적으로 개선할 수 있음을 입증했습니다.

•

본 연구에서 제안된 AdaMaG는 기존의 경험적 휴리스틱 방법들이 왜 효과적인지에 대한 이론적 근거를 제공하며, 향후 가이드 방식 연구에 중요한 방향을 제시합니다.

•

연구 결과는 이미지 생성 분야에 집중되었으며, 다른 도메인(예: 텍스트, 오디오)에서의 AdaMaG의 적용 및 효과에 대한 추가적인 연구가 필요합니다.

PDF 보기

Made with Slashpage