본 논문은 대규모 언어 모델(LLM)을 이용해 자동으로 생성된 레이블 데이터셋의 신뢰성 문제를 해결하기 위해, Simplex Label Diffusion with Dynamic Prior (SiDyP)라는 새로운 프레임워크를 제안합니다. LLM이 생성한 레이블의 부정확성으로 인해 발생하는 과적합 문제를 해결하고자, 텍스트 임베딩 공간에서 이웃 레이블 분포를 통해 잠재적인 실제 레이블 후보를 검색하고, 심플렉스 확산 모델을 사용하여 노이즈가 있는 후보를 반복적으로 개선합니다. 실험 결과, SiDyP는 제로샷 및 퓨샷 설정 모두에서 BERT 분류기의 성능을 평균 7.21% 및 7.30% 향상시키는 것으로 나타났습니다. 다양한 LLM과 NLP 작업에 대한 광범위한 벤치마킹을 통해 SiDyP의 효과를 입증하며, 코드는 Github에 공개되어 있습니다.
