본 논문은 과학적 시나리오에서 수학적 최적화 문제 해결을 위해 대규모 언어 모델(LLM)을 활용하는 새로운 방법인 GSO(General Scientific Optimizers)를 제안합니다. 기존의 프롬프트 기반 방법들은 LLM의 프롬프트 민감성과 긴 프롬프트 처리의 어려움으로 인해 최적화 과정의 관찰 피드백을 효과적으로 활용하는 데 어려움을 겪습니다. GSO는 내부 레벨의 시뮬레이터를 통해 현재 해를 평가하고 관찰 피드백을 제공하며, 외부 레벨에서 LLM이 이 피드백을 바탕으로 새로운 해를 생성하는 이중 레벨 최적화 방법을 사용합니다. 시뮬레이션과 LLM의 전문 지식은 모델 수정을 통해 상호 작용하며 업데이트됩니다. 실험 결과, GSO는 6가지 LLM 백본과 7가지 작업에서 기존 최첨단 방법들을 능가하는 성능을 보였습니다.
