Sign In

Posterior Sampling by Combining Diffusion Models with Annealed Langevin Dynamics

Created by
  • Haebom
Category
Empty

저자

Zhiyang Xun, Shivam Gupta, Eric Price

개요

잡음이 있는 선형 측정 $y = Ax + \xi$와 사전 분포 $p(x)$의 근사값을 바탕으로, 사후 분포 $p(x \mid y)$에서 샘플링할 수 있는 경우를 연구한다. 사후 샘플링은 inpainting, deblurring, MRI reconstruction과 같은 작업에 정확하고 공정한 프레임워크를 제공하지만, 계산 복잡성으로 인해 근사적인 방법이 필요하다. 본 논문에서는 (local or global) log-concave 분포 $p(x)$에 집중하여, Langevin dynamics와 diffusion models을 결합한 알고리즘을 제안한다. 제안된 알고리즘은 score error에 대한 $L^4$ bound만으로도 조건부 샘플링을 다항 시간 내에 수행할 수 있음을 증명한다.

시사점, 한계점

시사점:
Langevin dynamics와 diffusion models의 결합을 통해 계산 복잡성을 해결하는 새로운 접근 방식을 제시했다.
score error에 대한 완화된 조건($L^4$ bound)으로도 효율적인 샘플링이 가능함을 증명했다.
inpainting, deblurring, MRI reconstruction과 같은 다양한 응용 분야에 적용될 수 있는 가능성을 열었다.
한계점:
log-concave 분포에 한정된 연구로, 일반적인 분포에는 적용하기 어렵다.
score estimation error에 대한 구체적인 분석 및 실험 결과가 제시되지 않았다.
알고리즘의 실제 구현 및 성능에 대한 추가적인 연구가 필요하다.
👍