본 논문은 이산 확산 모델에서의 효율적인 샘플링 문제를 해결하기 위해 예측-보정 샘플링 기법을 제안합니다. 기존 방법들이 샘플링 단계 수를 줄일 때 계산량과 샘플 품질 간의 균형을 맞추는 데 어려움을 겪는다는 점을 지적하며, 확산 모델의 정보를 활용하는 보정기를 통해 누적 근사 오차를 더욱 효과적으로 해결하는 방법을 제시합니다. hollow transformers 기반의 구조적 수정과 더 많은 학습 신호를 활용하는 맞춤형 학습 목표를 도입하여 보정기의 효율성을 높였습니다. 합성 데이터와 ImageNet 256x256 데이터셋 실험을 통해 제안된 방법이 기존 방법보다 적은 샘플링 단계로 더 우수한 샘플을 생성하고 FID 점수를 향상시킴을 보여줍니다.
시사점, 한계점
•
시사점:
◦
이산 확산 모델에서 빠르고 고품질의 샘플 생성을 위한 새로운 샘플링 기법을 제시합니다.
◦
정보 기반 보정기를 통해 기존 방법의 한계인 계산량과 샘플 품질 간의 trade-off 문제를 개선합니다.
◦
Hollow transformers와 맞춤형 학습 목표를 활용하여 샘플링 효율성을 향상시킵니다.
◦
ImageNet 256x256 데이터셋에서 FID 점수 향상을 통해 성능 우수성을 입증합니다.
