KodCode는 다양한 난이도와 도메인에 걸쳐 고품질의 검증 가능한 훈련 데이터를 확보하는 어려움을 해결하기 위해 고안된 합성 코드 데이터셋입니다. 기존 코드 중심 리소스는 광범위한 범위(간단한 코딩 작업부터 고급 알고리즘 문제까지) 또는 검증 가능한 정확성(단위 테스트 등)을 보장하지 못하는 경향이 있습니다. KodCode는 질문-솔루션-테스트 세 쌍으로 구성되며, 자체 검증 절차를 통해 체계적으로 검증됩니다. 데이터 생성 파이프라인은 다양한 코딩 질문을 생성하고, 어려운 문제에는 추가 시도를 할당하여 솔루션과 테스트 케이스를 생성합니다. 추가적으로, 추론 모델(DeepSeek R1)을 사용하여 질문을 다양한 형식으로 다시 작성하고 테스트 기반 거부 샘플링 절차를 통해 응답을 생성하는 후처리 합성 과정을 거칩니다. 이를 통해 대규모, 강력하고 다양한 코딩 데이터셋을 생성합니다. KodCode는 지도 학습 미세 조정에 적합하며, 쌍을 이룬 단위 테스트는 강화 학습 미세 조정에도 큰 잠재력을 제공합니다. HumanEval(+), MBPP(+), BigCodeBench 및 LiveCodeBench와 같은 코딩 벤치마크에서의 미세 조정 실험 결과, KodCode로 미세 조정된 모델은 Qwen2.5-Coder-32B-Instruct 및 DeepSeek-R1-Distill-Llama-70B와 같은 모델을 능가하는 최첨단 성능을 달성했습니다.
