TryOffDiff: Virtual-Try-Off via High-Fidelity Garment Reconstruction using Diffusion Models
Created by
Haebom
저자
Riza Velioglu, Petra Bevandic, Robin Chan, Barbara Hammer
개요
본 논문은 단일 의류 착용자 사진으로부터 표준화된 의류 이미지를 생성하는 새로운 과제인 가상 시착(Virtual Try-Off, VTOFF)을 소개합니다. 기존의 가상 시착(Virtual Try-On, VTON)이 모델에 디지털 의상을 입히는 것과 달리, VTOFF는 형태, 질감, 복잡한 패턴의 정확한 재구성을 필요로 하는 정준 의류 이미지를 추출하여 생성 모델의 충실도를 견고하게 평가할 수 있도록 합니다. 본 논문에서는 SigLIP 기반 시각적 조건화를 사용하여 Stable Diffusion을 적용한 TryOffDiff를 제안합니다. VITON-HD 및 Dress Code 데이터셋에 대한 실험 결과, TryOffDiff는 적응된 자세 전달 및 VTON 기준 모델보다 성능이 우수함을 보여줍니다. SSIM과 같은 기존 지표는 재구성 품질을 제대로 반영하지 못한다는 점을 발견하여 DISTS를 사용하여 신뢰할 수 있는 평가를 수행했습니다. 본 연구 결과는 VTOFF가 전자상거래 상품 이미지 개선, 생성 모델 평가 향상 및 고충실도 재구성에 대한 미래 연구를 위한 지침을 제공할 가능성을 보여줍니다. 데모, 코드 및 모델은 https://rizavelioglu.github.io/tryoffdiff 에서 확인할 수 있습니다.