본 논문은 대형 언어 모델 (LLM)을 블랙박스 튜닝 방식으로 조정하는 새로운 방법을 제안합니다. 모델 파라미터에 직접 접근할 수 없는 상황에서, 제한된 API 호출만으로 LLM의 성능을 향상시키는 것을 목표로 합니다. 핵심 전략은 최소한의 정보성 훈련 데이터를 사용하여 파운데이션 모델에 쿼리하여 얻은 "LogitMap 쌍"을 기반으로 Gaussian Process (GP) 대리 모델을 훈련하는 것입니다. 이 대리 모델은 프록시 모델의 훈련을 안내하여 파운데이션 모델에 대한 직접 쿼리의 필요성을 효과적으로 줄입니다. 실험 결과, 제안된 방법은 사전 훈련된 언어 모델의 정확도를 55.92%에서 86.85%로 향상시켰으며, API 쿼리 빈도를 1.38%로 줄였습니다. 이는 API 접근 없이 작동하는 오프라인 방식보다 훨씬 우수하며, 쿼리 집약적인 방식과 비교하여 API 비용을 크게 절감하면서 유사하거나 더 나은 정확도를 달성합니다.
