본 논문은 대규모 언어 모델(LLM)을 이용하여 조합 최적화 문제에 대한 휴리스틱 알고리즘을 자동으로 생성하는 방법을 연구합니다. 기존 연구들이 주로 잘 알려진 문제들(예: 외판원 문제, 온라인 빈 패킹 문제)에 집중한 것과 달리, 본 연구는 아직 광범위하게 연구되지 않은 틈새 문제인 단위 하중 사전 마샬링 문제에 LLM을 적용합니다. 이를 위해 기존의 휴리스틱 진화(EoH) 프레임워크를 확장한 문맥적 휴리스틱 진화(CEoH) 프레임워크를 제안하며, 문제에 대한 특정 설명을 추가하여 LLM의 문맥 내 학습을 향상시킵니다. 실험 결과, CEoH는 소규모 LLM이 더 일관되게 고품질 휴리스틱을 생성하고, 심지어 대규모 모델보다 성능이 우수함을 보여줍니다. 대규모 모델은 문맥 정보 유무에 관계없이 견고한 성능을 보였으며, 생성된 휴리스틱은 다양한 인스턴스 구성에 대해 확장성을 나타냅니다.
