Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

FlowSteer: Guiding Few-Step Image Synthesis with Authentic Trajectories

Created by
  • Haebom
Category
Empty

저자

Lei Ke, Hubery Yin, Gongye Liu, Zhengyao Lv, Jingcai Guo, Chen Li, Wenhan Luo, Yujiu Yang, Jing Lyu

개요

Flow matching의 시각적 생성에서의 성공에도 불구하고, 샘플링 효율성은 실용적인 적용을 위한 주요 병목 현상으로 남아 있습니다. ReFlow는 flow 모델의 가속화 방법 중 하나이지만, 이론적 일관성에도 불구하고 실용적인 시나리오에서 일관성 증류 및 점수 증류에 비해 성능이 떨어진다는 이유로 간과되었습니다. 본 연구에서는 ReFlow 프레임워크 내에서 이 문제를 조사하고, 교사의 진정한 생성 궤적을 따라 학생을 안내함으로써 ReFlow 기반 증류의 잠재력을 여는 FlowSteer를 제안합니다. 우리는 먼저 Piecewised ReFlow의 성능이 훈련 중 중요한 분포 불일치로 인해 저해된다는 것을 확인하고 이를 해결하기 위해 온라인 궤적 정렬(OTA)을 제안합니다. 그런 다음 ODE 궤적에 직접 적용되는 적대적 증류 목표를 도입하여 학생이 교사의 생성 궤적을 준수하도록 개선합니다. 또한, 널리 사용되는 FlowMatchEulerDiscreteScheduler에서 몇 단계 추론 품질을 크게 저하시키는 이전에 발견되지 않은 결함을 발견하고 수정했습니다. SD3에 대한 실험 결과는 우리 방법의 효능을 보여줍니다.

시사점, 한계점

ReFlow 기반 증류의 성능 향상을 위한 FlowSteer 방법 제안.
Piecewised ReFlow의 분포 불일치 문제를 해결하는 OTA 제안.
적대적 증류 목표를 ODE 궤적에 적용하여 학생의 궤적 준수도 개선.
FlowMatchEulerDiscreteScheduler의 결함 발견 및 수정.
SD3 실험을 통해 방법의 효능 입증.
논문의 구체적인 한계점은 명시되지 않음.
👍