본 논문은 텍스트 분류를 위한 문맥 내 학습(In-context learning, ICL)에서 중요한 역할을 하는 데모 선택 방식을 제안합니다. 기존 방법론들이 의미 유사성에 집중하는 한계를 극복하고자, 테스트 입력과 데모 간의 레이블 분포 정렬을 고려하는 2단계 데모 선택 방법인 TopK + Label Distribution Divergence (L2D)를 제안합니다. L2D는 미세 조정된 BERT와 유사한 소형 언어 모델(SLM)을 활용하여 레이블 분포를 생성하고, 테스트 입력과 후보 데모 간의 분포 발산을 계산합니다. 7개의 텍스트 분류 벤치마크를 통해 제안된 방법이 기존 데모 선택 전략보다 일관되게 우수한 성능을 보임을 입증합니다. 또한 LLM의 성능과 레이블 분포 추정에 사용된 SLM의 정확도 간의 긍정적 상관관계를 확인했습니다.
