Mixture of Masters: Sparse Chess Language Models with Player Routing

작성자

Haebom

카테고리

Empty

저자

Giacomo Frisoni, Lorenzo Molfetta, Davide Freddi, Gianluca Moro

💡 개요

본 논문은 기존 체스 언어 모델의 단조로운 모드 평균화 문제를 해결하기 위해, 세계 최정상 체스 선수들의 스타일을 모방하는 소형 GPT 전문가들로 구성된 Mixture-of-Masters (MoM) 모델을 제안한다. MoM은 게임 상태에 따라 가장 적합한 전문가(마스터)를 동적으로 선택하는 학습 가능한 게이팅 네트워크를 사용하여, 공격적인 스타일과 수비적인 스타일을 유연하게 전환할 수 있다. 평가 결과, MoM은 기존의 단일 모델 및 집계 데이터 기반 모델들을 능가하는 성능을 보이며, 생성 다양성과 제어력, 해석 가능성까지 확보했다.

🔑 시사점 및 한계

•

각 전문가가 특정 플레이어의 전문성을 학습하여, 모델이 다양한 체스 스타일을 효과적으로 구사할 수 있습니다.

•

게임 상태에 따라 전문가를 동적으로 전환하는 메커니즘은 체스 플레이의 복잡성과 창의성을 언어 모델로 구현하는 새로운 가능성을 제시합니다.

•

아직 평가되지 않은 특정 체스 스타일이나 새로운 전략에 대한 모델의 적응력에 대한 추가 연구가 필요할 수 있습니다.

PDF 보기

Made with Slashpage