본 논문은 AI가 생성한 텍스트의 품질 평가 및 향상에 초점을 맞추고 있습니다. AI 생성 텍스트의 양이 급증함에 따라, 단순히 문법적 정확성과 일관성을 넘어서, 텍스트의 '질'을 평가하고 개선하는 것이 중요해졌습니다. 연구진은 5개의 기존 데이터셋을 통합하여 4,729개의 글쓰기 품질 판단으로 구성된 Writing Quality Benchmark (WQ)를 제시합니다. 기존 최첨단 LLMs를 포함한 여러 기준 모델들은 WQ에서 무작위 기준보다 성능이 크게 뛰어나지 못함을 보여줍니다. 이에 연구진은 다양한 크기의 Writing Quality Reward Models (WQRM)을 훈련하여 글쓰기 품질 평가를 수행하고, 4개의 분포 외 테스트 세트에서 강력한 일반화 성능과 WQ 벤치마크에서 74%의 정확도를 달성했습니다. 추가적으로, WQRM을 활용하여 후보 수정본을 생성하고 순위를 매김으로써 초기 초안보다 질 높은 출력을 선택할 수 있음을 보여줍니다. 9명의 전문 작가를 대상으로 한 사람 평가 결과, WQRM 기반 선택은 전체적으로 66%, 보상 차이가 1점 이상일 경우 72.2%의 비율로 전문가들이 선호하는 글쓰기 샘플을 생성했습니다. 연구진은 데이터셋과 모델을 공개하여, AI 글쓰기 시스템의 발전에 기여하고자 합니다.
