Automatic Dataset Construction (ADC): Sample Collection, Data Curation, and Beyond

Created by

Haebom

저자

Minghao Liu, Zonglin Di, Jiaheng Wei, Zhongruo Wang, Hengxiang Zhang, Ruixuan Xiao, Haoyu Wang, Jinlong Pang, Hao Chen, Ankit Shah, Hongxin Wei, Xinlei He, Zhaowei Zhao, Haobo Wang, Lei Feng, Jindong Wang, James Davis, Yang Liu

💡 개요

본 논문은 대규모 개인 맞춤형 학습 데이터 구축 및 전문 모델 파인튜닝에 필수적이지만, 수작업으로 인한 비용, 시간, 오류 문제를 해결하기 위한 자동화된 데이터셋 구축(ADC) 방법을 제안합니다. LLM을 활용하여 클래스 설계, 코드 생성, 검색 엔진 샘플 수집을 자동화함으로써 수동 레이블링의 필요성을 줄이고 데이터 생성 속도를 높입니다. 제안된 방법으로 1백만 개 이상의 이미지로 구성된 Clothing-ADC 데이터셋을 구축했으며, 인간 주석가와의 79% 일치율, 레이블 노이즈 22.2%에서 10.7%로 감소와 같은 성과를 보였습니다.

🔑 시사점 및 한계

•

수동 레이블링 없이도 고품질 학습 데이터를 효율적이고 경제적으로 구축할 수 있는 새로운 자동화 방법론을 제시합니다.

•

레이블 노이즈 탐지 및 클래스 불균형 학습을 위한 새로운 벤치마크 데이터셋을 제공하여 관련 연구 발전에 기여합니다.

•

레이블 오류(노이즈)와 데이터 불균형(편향)과 같은 실제 데이터셋 구축의 한계를 여전히 가지고 있습니다.

PDF 보기

Made with Slashpage