Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Progressive Prompt Detailing for Improved Alignment in Text-to-Image Generative Models

Created by
  • Haebom

저자

Ketan Suhaas Saichandran, Xavier Thomas, Prakhar Kaushik, Deepti Ghadiyaram

개요

본 논문은 복잡한 장면, 다양한 객체, 그리고 명확한 시각적 특징과 공간적 관계를 상세히 기술하는 긴 프롬프트에 어려움을 겪는 텍스트-이미지 생성 모델의 문제를 해결하기 위해, SCoPE(Scheduled interpolation of Coarse-to-fine Prompt Embeddings)라는 새로운 방법을 제안합니다. SCoPE는 훈련이 필요 없는 방법으로, 입력 프롬프트를 거칠고 세밀한 방식으로 점진적으로 개선하여 텍스트-이미지 정합성을 향상시킵니다. 상세한 입력 프롬프트가 주어지면, 먼저 광범위한 장면 레이아웃을 설명하는 것부터 매우 복잡한 세부 사항까지 진화하는 여러 하위 프롬프트로 분해합니다. 추론 중에 이러한 하위 프롬프트 간에 보간하여 생성된 이미지에 점진적으로 더 세밀한 세부 정보를 도입합니다. 이 훈련이 필요 없는 플러그 앤 플레이 방식은 프롬프트 정합성을 크게 향상시키며, GenAI-Bench 데이터셋의 85% 프롬프트에서 Stable Diffusion 기준선보다 Visual Question Answering (VQA) 점수를 평균 최대 +4% 향상시킵니다.

시사점, 한계점

시사점:
훈련 없이도 텍스트-이미지 생성 모델의 프롬프트 정합성을 향상시키는 효과적인 방법을 제시합니다.
복잡하고 세밀한 프롬프트에도 높은 성능을 보이며, VQA 점수 향상을 통해 성능 개선을 정량적으로 입증합니다.
플러그 앤 플레이 방식으로 기존 모델에 쉽게 적용 가능합니다.
한계점:
GenAI-Bench 데이터셋에 대한 성능 향상만 제시되었으며, 다른 데이터셋에 대한 일반화 성능은 추가적인 연구가 필요합니다.
하위 프롬프트 분해 및 보간 전략의 최적화에 대한 추가적인 연구가 필요할 수 있습니다.
모든 유형의 복잡한 프롬프트에 대해 일관된 성능 향상을 보장하지는 않을 수 있습니다.
👍