본 논문은 대량의 instruction tuning 데이터에서 효율적인 데이터 선택 전략을 제시합니다. 기존의 LIMA나 AlpaGasus와 같은 방법들이 데이터 품질에만 초점을 맞춘 것과 달리, 본 연구는 데이터의 다양성과 복잡성을 동시에 고려합니다. 희소 자동 인코더(SAE)를 활용하여 데이터 다양성을 측정하고, 모델 동작의 해석성을 높이며, 예컨대 가장 긴 응답을 선택하는 것의 효과를 설명합니다. 실험 결과, 제안된 방법으로 선택된 데이터로 훈련된 모델은 다른 방법들보다 성능이 우수하고, 훈련 비용을 절감하며, 모델 동작에 대한 제어력을 향상시키는 것을 보여줍니다. 또한, 확장성 있는 방법론을 제시하며, 훈련된 SAE를 공개하여 폭넓은 사용을 지원합니다.
