Bridging Generation and Training: A Systematic Review of Quality Issues in LLMs for Code

작성자

Haebom

카테고리

Empty

저자

Kaifeng He, Xiaojun Zhang, Peiliang Cai, Mingwei Liu, Yanlin Wang, Chong Wang, Kaifeng Huang, Bihuan Chen, Xin Peng, Zibin Zheng

💡 개요

본 논문은 코드 생성 LLM에서 발생하는 다양한 결함이 모델 자체의 한계보다는 학습 데이터의 품질 문제에서 비롯된다는 점에 주목합니다. 114편의 논문을 체계적으로 검토하여 학습 데이터 품질 이슈가 코드 생성 결과의 품질 이슈로 전파되는 메커니즘을 규명하고, 코드 및 비코드 속성별로 학습 데이터 품질 이슈를 분류하는 통합 분류 체계를 제시합니다. 이를 통해 데이터, 모델, 생성 생명주기 전반에 걸친 탐지 및 완화 기술을 종합하고, 신뢰할 수 있는 코드 생성 LLM 개발을 위한 향후 연구 방향을 제시합니다.

🔑 시사점 및 한계

•

코드 생성 LLM의 품질 문제는 주로 학습 데이터의 품질에서 기인하며, 이는 모델 개발 시 데이터 거버넌스의 중요성을 부각합니다.

•

연구는 품질 보증이 생성 후 필터링에서 데이터 중심의 사전 예방적 거버넌스 및 폐쇄 루프 수리로 전환되는 방법론적 변화를 보여줍니다.

•

현재까지 학습 데이터 품질 문제가 생성 코드 품질 문제로 전파되는 구체적인 메커니즘에 대한 체계적인 이해가 부족하며, 이를 해결하기 위한 통합적인 데이터 큐레이션 및 지속적인 평가가 필요합니다.

PDF 보기

Made with Slashpage