본 논문은 대규모 언어 모델(LLM)에서 프롬프트 최적화의 중요성을 강조하며, 텍스트 기울기 강하(TGD) 프레임워크의 확장성 문제를 다룬다. TGD는 LLM이 제안하는 업데이트를 사용하여 반복적으로 텍스트 프롬프트를 개선하는 데이터 기반 접근 방식이다. 본 논문은 다양한 NLP 작업에서 훈련 예제 수의 증가가 초기에는 TGD 성능을 향상시키지만, 나중에는 성능 저하를 초래함을 실험적으로 보여준다. 이 문제를 해결하기 위해, 본 논문은 과거 배치 분포를 기반으로 프롬프트 샘플링의 가중치를 재조정하는 모멘텀을 갖는 텍스트 확률적 기울기 강하(TSGD-M)를 제안한다. TSGD-M은 BIG-Bench Hard (BBH), 자연어 이해 작업 및 추론 작업 등 9가지 NLP 작업에서 가중치 재조정 샘플링을 통합하지 않은 TGD 기준선보다 성능이 뛰어나며, 대부분의 작업에서 분산을 줄인다.
