Adaptive Inference-Time Scaling via Cyclic Diffusion Search
Created by
- Haebom
Category
Empty
저자
Gyubin Lee, Truong Nhat Nguyen Bao, Jaesik Yoon, Dongwoo Lee, Minsu Kim, Yoshua Bengio, Sungjin Ahn
개요
확산 모델은 이미지 합성에서 복잡한 추론 작업에 이르기까지 다양한 분야에서 강력한 생성 능력을 보여주었습니다. 그러나 대부분의 추론 시간 스케일링 방법은 고정된 노이즈 제거 일정을 사용하므로 인스턴스 난이도 또는 작업별 요구 사항에 따라 계산을 적응적으로 할당하는 능력이 제한됩니다. 본 논문에서는 적응형 추론 시간 스케일링의 문제를 제시하고, 유연한 검색 기반 추론 프레임워크인 Adaptive Bi-directional Cyclic Diffusion (ABCD)를 제안합니다. ABCD는 양방향 확산 주기를 통해 출력을 개선하는 동시에 탐색 깊이와 종료를 적응적으로 제어합니다. Cyclic Diffusion Search, Automatic Exploration-Exploitation Balancing, Adaptive Thinking Time의 세 가지 구성 요소로 구성됩니다. 실험 결과, ABCD는 계산 효율성을 유지하면서 다양한 작업에서 성능을 향상시켰습니다.
시사점, 한계점
•
적응형 추론 시간 스케일링의 문제를 제시하고 해결책으로 ABCD 프레임워크 제안
•
ABCD는 양방향 확산 주기를 통해 출력 개선, 탐색 깊이 및 종료를 적응적으로 제어
•
Cyclic Diffusion Search, Automatic Exploration-Exploitation Balancing, Adaptive Thinking Time의 세 가지 구성 요소로 구성
•
다양한 작업에서 성능 향상 및 계산 효율성 유지
•
논문의 한계점은 명시되지 않음.
