본 논문은 대규모 언어 모델(LLM)의 복잡한 코드 추론 능력 향상을 위한 새로운 방법을 제시합니다. LLM은 일상적인 코딩 작업에서는 우수한 성능을 보이지만, 프로그램 의미에 대한 비범상적인 추론이 필요한 복잡한 작업에서는 실패할 수 있습니다. 이러한 문제를 해결하기 위해, 본 연구는 의미적 불균등 게임(SInQ)을 기반으로 코드 추론 학습 데이터를 합성적으로 생성하는 방법을 탐구합니다. 생성 에이전트는 실제 프로그래밍 작업 데이터셋에서 파생된 의미적으로 구별되는 프로그램 변형을 생성하고, 평가 에이전트는 원래 프로그램과 생성된 변형의 동작이 달라지는 입력 예시를 식별합니다. 두 에이전트는 반(半)적대적으로 서로를 학습시키며, 이러한 설정은 이론적으로 무한한 계산 자원을 가정할 때 자가 플레이를 통해 무한히 개선될 수 있음을 증명합니다. 다양한 코드 생성 및 이해 벤치마크(다국어 취약점 탐지, Python 내장 식별자 교환 벤치마크 포함)에서 실험을 통해 제안된 방법의 효과를 검증하였으며, Python 코드로만 학습했음에도 불구하고 C/C++ 코드의 취약점 탐지를 개선하고, 기존 LLM이 어려움을 겪는 Python 내장 식별자 교환 벤치마크에서 상당한 성능 향상을 달성했습니다. 실험 재현에 필요한 코드와 생성된 합성 데이터를 공개하여 다른 연구자들이 LLM을 미세 조정하는 데 활용할 수 있도록 했습니다.
