본 논문은 강력한 이해력과 추론 능력을 가진 대규모 언어 모델(LLM)이 최적화 문제 해결에 사용되는 연구를 종합적으로 검토한다. 특히 진화 연산과의 시너지 효과에 초점을 맞춰 최근 개발 동향을 체계적으로 분석하고 구조화된 프레임워크 내에서 정리한다. 연구는 LLM을 활용한 최적화 모델링과 LLM을 활용한 최적화 해결의 두 가지 주요 단계로 분류된다. 후자는 LLM을 독립형 최적화 도구로 사용하는 경우, 최적화 알고리즘 내에 내장하는 경우, 알고리즘 선택 및 생성을 위해 사용하는 경우 등 세 가지 패러다임으로 세분화된다. 각 범주별 대표적인 방법들을 분석하고 기술적 과제를 제시하며 기존 접근 방식과의 상호 작용을 살펴본다. 또한 자연 과학, 공학, 머신 러닝 등 다양한 분야의 응용 사례를 검토한다. LLM 기반 방법과 기존 방법들을 비교하여 주요 한계점과 연구 격차를 강조하고, 최적화를 위한 자체 진화형 에이전트 생태계 개발을 위한 미래 방향을 제시한다.
