Inference-Time Refinement Closes the Synthetic-Real Gap in Tabular Diffusion

작성자

Haebom

카테고리

Empty

저자

Eugenio Lomurno, Filippo Balzarini, Francesco Benelle, Francesca Pia Panaccione, Matteo Matteucci

💡 개요

본 논문은 기존 학습 시간 중심의 합성 테이블 데이터 생성 방식에서 벗어나, 사전 학습된 모델을 그대로 둔 채 추론 시점에 결과물을 개선하는 새로운 방법론인 TARDIS를 제안합니다. TARDIS는 Tree-structured Parzen Estimator 탐색을 통해 최적의 추론 시점 정제 방식을 찾고, Bidirectional Chamfer Refinement (BCR)이라는 새로운 패턴을 통해 합성 데이터와 실제 데이터 간의 간극을 줄입니다. 이를 통해 15개의 다양한 벤치마크 데이터셋에서 실제 데이터로 학습한 모델 대비 평균 8.6%의 다운스트림 작업 성능 향상을 달성했습니다.

🔑 시사점 및 한계

•

추론 시간 정제의 잠재력: 기존에는 학습 시간의 구조적, 규모적 개선에 집중했지만, 본 연구는 추론 시간에서의 정제가 합성 데이터의 유용성을 크게 향상시킬 수 있음을 보여주었습니다.

•

BCR 패턴의 일반성: Bidirectional Chamfer Refinement (BCR)라는 수학적 패턴이 테이블 데이터 생성 후처리 과정에서 효과적임을 입증하고, 다양한 데이터셋에서 이 패턴이 잘 복구됨을 확인했습니다.

•

효율적인 탐색 및 최적화: TARDIS는 단일 소비자용 GPU에서 1~80분 내에 최적의 추론 시간 정제 설정을 찾아내어 실용적인 측면에서도 강점을 가집니다.

•

한계점: BCR 패턴의 이론적 근거나 일반성에 대한 더 깊은 탐구가 필요하며, 복잡한 데이터셋이나 고차원 데이터에서의 성능 변화에 대한 추가적인 연구가 필요할 수 있습니다.

PDF 보기

Made with Slashpage