본 논문은 저자원 언어에 대한 고품질 기계 번역 시스템 구축을 위한 새로운 부트스트래핑 접근 방식인 CycleDistill을 제안합니다. CycleDistill은 대규모 언어 모델(LLM)과 소수 샷 번역을 활용하여 단일 언어 말뭉치로부터 합성 평행 말뭉치를 반복적으로 생성하고, 이를 통해 생성된 데이터로 모델을 미세 조정하는 방식입니다. 평행 말뭉치가 1~4개의 소수 샷 예제만 필요하며, 세 가지 인도 언어를 대상으로 한 실험에서 단일 언어 말뭉치만으로도 고품질 기계 번역을 달성하여, 소수 샷 기준 모델에 비해 첫 번째 반복에서 평균 20-30 chrF 포인트 이상 향상을 보였습니다. 또한, 증류 과정에서 소프트맥스 활성화를 활용하는 효과를 연구하여 번역 품질의 약간의 향상을 관찰했습니다.
