본 논문은 대규모 언어 모델(LLM)이 코드 생성 및 완성과 같은 코딩 작업에서 인상적인 성능을 보이지만, 코드의 의미를 이해하는 능력인 코드 이해 능력은 부족하다는 점을 지적합니다. 이는 LLM이 주로 표면적인 구문 패턴을 학습하기 때문으로, 코드 디버깅 및 최적화와 같은 심층적인 의미 이해를 요구하는 작업에서는 성능이 저조한 이유라고 주장합니다. 따라서, 본 논문에서는 대규모 데이터셋을 사용하여 코드 이해 작업에 특화된 미세 조정을 통해 LLM의 코드 의미 이해 능력을 향상시키는 방법을 제안합니다. 세 가지 크기의 코드 모델을 다양한 코드 이해 작업에 대해 평가한 결과, 특히 주관성 등급 지정 작업에서 미세 조정 후 성능이 향상되었으며, QWQ-32B 모델의 경우 정확도가 70%에서 83.47%로 증가했습니다. DPO 미세 조정된 Codestral-22B 모델이 주관성 등급 지정 작업에서 87.66%의 가장 높은 정확도를 달성했습니다.
