본 논문은 과학적 시나리오에서 수학적 최적화 문제 해결을 위해 대규모 언어 모델(LLM)을 활용하는 새로운 방법인 GSO(General Scientific Optimizers)를 제안합니다. 기존 방법들은 프롬프트 기반으로 LLM을 활용하여 최적화 문제를 해결하지만, LLM의 프롬프트 민감성과 긴 프롬프트에서의 정보 손실 문제로 인해 각 최적화 단계의 관찰 피드백을 효과적으로 활용하는 데 어려움을 겪습니다. GSO는 내부 수준의 시뮬레이터를 통해 현재 해결책을 평가하고 관찰 피드백을 제공하고, LLM은 이 피드백을 바탕으로 새로운 해결책을 생성하는 이중 수준 최적화 방법입니다. 시뮬레이션과 LLM의 전문 지식은 모델 편집을 통해 상호 작용하며 업데이트됩니다. 실험 결과, GSO는 6가지 서로 다른 LLM 백본과 7가지 서로 다른 과제에서 기존 최첨단 방법들을 꾸준히 능가하는 것으로 나타났습니다.
