본 논문은 복잡한 문제 해결에 어려움을 겪는 대규모 언어 모델(LLM)과 코드 생성 LLM(CLLM)의 한계를 극복하기 위해 프로그래밍 지식 그래프(PKG) 기반의 새로운 검색 증강 생성(RAG) 프레임워크를 제시합니다. PKG는 코드를 의미적으로 표현하고 검색하여 관련 코드 부분을 정밀하게 검색하고 트리 가지치기를 통해 무관한 맥락을 줄입니다. 또한, 재순위 지정 메커니즘을 통해 RAG 방식이 아닌 솔루션을 선택적으로 통합하여 환각을 줄입니다. 블록 단위 및 함수 단위의 두 가지 검색 방식을 제안하며, HumanEval과 MBPP 벤치마크에서 최대 20%의 pass@1 정확도 향상과 최첨단 모델 대비 최대 34%의 성능 향상을 보였습니다. 핵심 기여는 PKG 기반 검색, 검색 정확도 향상을 위한 트리 가지치기, 강력한 솔루션 선택을 위한 재순위 지정 방법, 그리고 관련 주석과 docstring을 사용한 자동 코드 증강을 위한 Fill-in-the-Middle(FIM) 강화 모듈입니다.
