ReLoop: Structured Modeling and Behavioral Verification for Reliable LLM-Based Optimization

Thu, 30 Apr 2026 07:49:25 GMT

### 저자

Junbo Jacob Lian, Yujun Sun, Huiling Chen, Chaoyu Zhang, Hanzhang Qin, Chung-Piaw Teo

### 💡 개요

이 논문은 LLM이 최적화 코드를 생성할 때 발생하는 "실행은 되지만 의미는 틀린" 잘못된 공식화 문제를 해결하기 위한 ReLoop 방법론을 제안합니다. ReLoop는 구조화된 생성 과정을 통해 오류를 사전에 방지하고, 매개변수 교란을 통한 행위 검증으로 생성 후에도 오류를 탐지합니다. 이를 통해 LLM 기반 최적화의 정확성과 신뢰성을 크게 향상시킵니다.

### 🔑 시사점 및 한계

- LLM이 생성한 최적화 코드의 실행 가능성뿐만 아니라 의미적 정확성까지 보장하는 새로운 검증 방식(행위 검증)을 제시합니다.

- 구조화된 생성과 행위 검증이라는 두 가지 보완적인 메커니즘을 통해 다양한 종류의 오류에 효과적으로 대응할 수 있습니다.

- 특정 목적에 맞게 미세 조정된 SFT 모델의 경우, 고정된 출력 형식으로 인해 Chain-of-Thought 프롬프트에 취약하다는 한계를 발견하고 이를 분석했습니다.

---

[PDF 보기](https://arxiv.org/pdf/2602.15983)