Post-Training Language Models for Crosslingual Consistency

작성자

Haebom

카테고리

Empty

저자

Tianyu Liu, Jirui Qi, Mrinmaya Sachan, Ryan Cotterell, Raquel Fernandez, Arianna Bisazza

💡 개요

본 논문은 다국어 언어 모델이 번역 등가적인 프롬프트에 대해 언어별로 일관되지 않은 응답을 생성하는 문제를 다룹니다. 이를 해결하기 위해 정보 이론적 관점에서 교차 언어 일관성을 정의하고, 이를 개선하는 사후 훈련 절차인 '페널티 일관성 최적화(PCO)'를 제안합니다. PCO를 효율적으로 구현하기 위한 '직접 일관성 최적화(DCO)' 기법을 개발하여, 광범위한 언어 모델과 26개 언어에 걸쳐 교차 언어 일관성을 크게 향상시키고 저자원 언어의 맞춤형 정렬을 가능하게 함을 보여줍니다.

🔑 시사점 및 한계

•

다국어 언어 모델의 일관성 부족 문제를 정보 이론적으로 정량화하고 해결하기 위한 새로운 접근 방식을 제시합니다.

•

제안된 DCO 기법은 기존 방법론보다 우수한 성능을 보이며, 특히 저자원 언어의 성능을 개선하는 데 효과적입니다.

•

사후 훈련 절차로서, 기존 모델을 추가적인 훈련 없이 일관성 있게 만들 수 있는 실용적인 방법을 제공합니다.

•

DCO가 최적화하는 이질적 일관성 측정 기준이 실제 사용자 경험과 어떻게 연관되는지에 대한 추가적인 탐구가 필요합니다.

PDF 보기

Made with Slashpage