Why Do Multilingual Reasoning Gaps Emerge in Reasoning Language Models?

Created by

Haebom

저자

Deokhyung Kang, Seonjeong Hwang, Daehui Kim, Hyounghun Kim, Gary Geunbae Lee

💡 개요

본 연구는 다국어 추론 언어 모델(RLM)에서 발생하는 언어 자원 풍부도에 따른 추론 성능 격차의 근본 원인을 탐구합니다. 연구진은 이 격차가 주로 모델이 다국어 입력을 추론에 주로 사용되는 언어(대개 영어)로 제대로 이해하고 번역하지 못하는 언어 이해 실패에서 비롯됨을 밝혀냈습니다. 이를 바탕으로, 언어 이해 실패가 탐지되었을 때만 영어 번역을 추론 과정에 선택적으로 통합하는 'Selective Translation' 전략을 제안하고, 이를 통해 다국어 추론 격차를 크게 완화시켰습니다.

🔑 시사점 및 한계

•

다국어 추론 모델의 성능 격차는 언어 자원 부족보다는 모델의 언어 이해 및 번역 능력 부족에 기인합니다.

•

언어 이해 실패를 탐지하는 것은 다국어 추론 격차를 완화하기 위한 효과적인 접근 방식이며, 지도 학습 기반 탐지 방법이 가장 우수합니다.

•

제안된 Selective Translation 전략은 성능 저하 없이 상당한 수준으로 다국어 추론 격차를 줄일 수 있습니다.

•

탐지 방법의 성능 향상 및 다양한 모델 구조에 대한 일반화 가능성 검증이 향후 과제로 남아있습니다.

PDF 보기

Made with Slashpage