본 논문은 대규모 언어 모델(LLM)의 인간 선호도 정렬을 위한 강화 학습 기법인 그룹 상대 정책 최적화(GRPO)의 한계를 지적하고, 이를 개선한 새로운 방법인 도메인 정보 자기 일관성 정책 최적화(DISCO)를 제안합니다. GRPO는 균형 잡힌 도메인 분포와 균일한 의미 정렬을 가정하지만, 실제 데이터셋에서는 이러한 가정이 성립하지 않습니다. DISCO는 도메인별 보상 조정과 난이도별 보상 조정이라는 두 가지 혁신을 통해 도메인 불균형 문제를 해결합니다. 도메인별 보상 조정은 도메인 빈도를 기반으로 가중치를 재조정하여 빈도 편향을 해소하고, 난이도별 보상 조정은 프롬프트 수준의 자기 일관성을 활용하여 불확실한 프롬프트를 우선적으로 학습하여 효율성을 높입니다. 실험 결과, DISCO는 다양한 LLM과 불균형 데이터셋에서 일반화 성능을 향상시키고, 기존 GRPO 변형보다 성능이 5% 향상되었으며, 다중 도메인 정렬 벤치마크에서 최첨단 성능을 달성했습니다.
시사점, 한계점
•
시사점:
◦
도메인 불균형 문제를 가진 실제 데이터셋에서 LLM의 인간 선호도 정렬 성능을 향상시키는 새로운 방법(DISCO)을 제시.
◦
도메인별 및 난이도별 보상 조정을 통해 GRPO의 한계를 극복하고, 더욱 공정하고 효과적인 정책 학습을 가능하게 함.
