Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Chain-of-Zoom: Extreme Super-Resolution via Scale Autoregression and Preference Alignment

Created by
  • Haebom

저자

Bryan Sangwoo Kim, Jeongsol Kim, Jong Chul Ye

개요

본 논문은 기존 단일 이미지 초고해상도(SISR) 모델이 훈련된 배율 이상의 확대에는 성능이 저하되는 문제를 해결하기 위해, 모델과 무관한 프레임워크인 Chain-of-Zoom (CoZ)을 제안합니다. CoZ는 다중 스케일 인식 프롬프트를 사용하여 중간 스케일 상태의 자기회귀 연쇄로 SISR을 분해합니다. 기존 SR 모델을 반복적으로 재사용하여 추가 훈련 없이 극단적인 해상도를 달성하며, 고배율에서 시각적 단서가 감소하는 문제를 해결하기 위해 시각 언어 모델(VLM)로 생성된 다중 스케일 인식 텍스트 프롬프트를 각 확대 단계에 추가합니다. 프롬프트 추출기는 Generalized Reward Policy Optimization (GRPO)와 비평가 VLM을 사용하여 미세 조정되며, 텍스트 가이드를 사람의 선호도에 맞춥니다. 실험 결과, CoZ에 포함된 표준 4x 확산 SR 모델은 높은 지각 품질과 충실도로 256배 이상의 확대를 달성합니다.

시사점, 한계점

시사점:
기존 SISR 모델의 배율 확장성 한계를 극복하는 새로운 프레임워크 제시
추가적인 모델 훈련 없이 극단적인 배율 확대 가능
시각 언어 모델을 활용한 다중 스케일 인식 프롬프트를 통해 고배율에서의 성능 향상
256배 이상의 확대에서도 높은 화질 유지
한계점:
VLM 및 GRPO를 사용하는 프롬프트 생성 및 미세 조정 과정의 복잡성
특정 VLM 및 SR 모델에 대한 의존성 (모델-agnostic 이지만, 특정 모델 조합에 최적화된 성능을 보일 가능성 존재)
실제 이미지 데이터셋에 대한 일반화 성능에 대한 추가적인 검증 필요
계산 비용이 높을 수 있음 (자기회귀 연쇄 과정으로 인한 연산량 증가)
👍