본 논문은 데이터 중심 증류(data-centric distillation)을 통해 사고연쇄(chain-of-thought, CoT) 증류에서의 데이터 조작 효과를 체계적으로 평가하는 최초의 벤치마크인 DC-CoT를 제시합니다. 다양한 teacher 모델과 student 모델 아키텍처를 사용하여 데이터 증강, 선택, 혼합 등의 데이터 조작 기법이 여러 추론 데이터셋에서 student 모델 성능에 미치는 영향을 엄격하게 평가하고, 특히 분포 내(IID) 및 분포 외(OOD) 일반화와 도메인 간 전이에 중점을 둡니다. 이를 통해 데이터 중심 기법을 활용한 CoT 증류 최적화를 위한 실행 가능한 통찰력과 모범 사례를 제공하여, 더욱 접근 가능하고 유능한 추론 모델 개발을 촉진하는 것을 목표로 합니다. 데이터셋은 Hugging Face에서, 코드는 anonymous.4open.science에서 공개됩니다.
