Fast Direct: Query-Efficient Online Black-box Guidance for Diffusion-model Target Generation
Created by
Haebom
저자
Kim Yong Tan, Yueming Lyu, Ivor Tsang, Yew-Soon Ong
개요
본 논문은 사전 훈련된 확산 모델의 생성 과정을 특정 하위 작업에 맞게 사용자 지정하기 위한 유망한 방향인 지도 확산 모델 생성에 대해 다룹니다. 기존의 지도 확산 모델은 사전 수집된 데이터 세트로 지도 모델을 훈련하거나 목적 함수가 미분 가능해야 하는 제약이 있었습니다. 그러나 대부분의 실제 작업에서는 오프라인 데이터 세트를 사용할 수 없고, 인간의 선호도를 고려한 이미지 생성, 신약 개발을 위한 분자 생성, 재료 설계와 같이 목적 함수가 미분 불가능한 경우가 많습니다. 따라서 본 논문에서는 런타임 중에 데이터를 수집하고 블랙박스 목적 함수를 지원할 수 있는 온라인 알고리즘이 필요합니다. 또한, 쿼리의 목적 평가가 실제 시나리오에서 비용이 많이 들기 때문에 알고리즘의 쿼리 효율성도 중요합니다. 본 연구에서는 쿼리 효율적인 온라인 블랙박스 타겟 생성을 위한 새롭고 간단한 알고리즘인 Fast Direct를 제안합니다. Fast Direct는 데이터 매니폴드에 의사 타겟을 구축하여 보편적인 방향으로 확산 모델의 노이즈 시퀀스를 업데이트하여 쿼리 효율적인 지도 생성을 수행합니다. 12가지 고해상도(1024x1024) 이미지 타겟 생성 작업과 6가지 3D 분자 타겟 생성 작업에 대한 광범위한 실험을 통해 각각 최대 6배에서 10배, 최대 11배에서 44배의 쿼리 효율성 향상을 보였습니다. 구현 코드는 https://github.com/kimyong95/guide-stable-diffusion/tree/fast-direct 에서 공개적으로 이용 가능합니다.