본 논문은 소스 코드 요약을 위한 새로운 방법인 Variational Prefix Tuning (VPT)을 제안합니다. 기존의 소스 코드 요약 방법들이 단일 고품질 요약 생성에 집중하는 것과 달리, VPT는 다양하고 정확한 여러 개의 요약을 생성하여 사용자가 상황에 맞는 요약을 선택할 수 있도록 합니다. 이는 Conditional Variational Autoencoder (CVAE) 프레임워크를 사전 훈련된 모델에 통합하여, 관측된 목표 요약들의 분포를 모델링하고 연속적인 임베딩을 샘플링하여 디코딩 과정에서 다양한 출력을 생성하는 데 활용하는 방식입니다. 특히, 대규모 언어 모델(LLM)을 사용하더라도 모델 재훈련이 필요 없도록 매개변수 효율적인 방식으로 설계되었으며, 생성된 요약들 중에서 다양성과 정확성을 모두 고려하여 최적의 요약들을 선택하는 이중 기준 재순위 지정 방법을 사용합니다. 다양한 데이터셋과 최첨단 사전 훈련된 코드 요약 모델을 사용한 실험을 통해 VPT의 효과성과 적응성을 입증합니다.
