본 논문은 온라인 학습 환경에서 CEFR B2 영어 말하기 평가의 자동화된 평가 시스템을 개발하는 것을 목표로 한다. 기존의 전문가 평가 방식의 확장성 한계를 극복하기 위해, 대규모 언어 모델(LLM)을 활용하여 대화 녹취록을 기반으로 평가를 자동화하는 시스템을 제안한다. 주요 과정으로는 우선, 다양한 오픈소스 및 상용 LLM의 평가 능력을 평가하고, CEFR 기준에 맞춰 전문가 검증을 거친 합성 대화 데이터셋을 새롭게 생성한다. 또한, 영어 어휘 프로파일(English Vocabulary Profile) 및 CEFR-SP WikiAuto 데이터셋을 기반으로 instruction-tuning을 위한 새로운 데이터셋을 개발한다. 마지막으로, 이러한 데이터셋을 사용하여 Mistral Instruct 7B v0.2 모델을 parameter-efficient instruction tuning하여 EvalYaks라는 모델 군을 개발한다. EvalYaks는 CEFR B2 말하기 시험의 네 가지 영역별 평가, 어휘 수준 식별 및 어휘 생성, 텍스트 수준 식별 및 텍스트 생성 기능을 제공하며, 평균 96%의 정확도와 0.35 레벨의 편차를 달성하여 기존 최고 성능 모델보다 3배 향상된 성능을 보였다. 이는 고품질 CEFR 정렬 평가 데이터로 instruction tuning된 7B 파라미터 LLM이 CEFR B2 영어 말하기 평가를 효과적으로 평가하고 채점할 수 있음을 보여주는 결과이다.
