본 논문은 저자들이 제안한 새로운 조건부 순환 확산 프레임워크인 ORAL을 소개합니다. ORAL은 발전하는 대규모 언어 모델(LLM)에 대한 저랭크 적응(LoRA)에서 고품질 모델 가중치를 직접 합성하는 매개변수 생성 패러다임을 사용합니다. 기존 방법들의 확장성과 제어성의 한계를 극복하기 위해, 모델 아키텍처와 텍스트 작업 사양을 통합하는 새로운 조건화 메커니즘을 통합하여, 발전하는 기본 모델 간에 원활하게 전송될 수 있는 작업별 LoRA 매개변수 생성을 가능하게 합니다. 다양한 언어, 비전, 다중 모드 작업에 대한 광범위한 실험을 통해, ORAL이 기존 방법과 비교하거나 능가하는 성능을 달성하는 고품질 LoRA 매개변수를 생성함을 보여줍니다.
