Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Multi-agent KTO: Reinforcing Strategic Interactions of Large Language Model in Language Game

Created by
  • Haebom
Category
Empty

저자

Rong Ye, Yongxin Zhang, Yikai Zhang, Haoyu Kuang, Zhongyu Wei, Peng Sun

개요

Wittgenstein의 언어 게임 이론에 영감을 받아, 의사결정과 언어 표현을 분리하는 기존의 다단계 프레임워크 대신 문맥 내 상호작용을 통해 언어 에이전트가 학습할 수 있다는 가설을 제시합니다. 사회적 추론 게임인 늑대인간 게임을 사용하여, 다중 에이전트 Kahneman & Tversky's Optimization (MaKTO)을 개발했습니다. MaKTO는 다양한 모델을 광범위한 게임 플레이에 참여시켜 쌍을 이루지 않은 바람직한 응답과 바람직하지 않은 응답을 생성한 후, KTO를 사용하여 모델의 의사결정 과정을 개선합니다. 9인용 늑대인간 게임에서 MaKTO는 다양한 모델에 걸쳐 평균 61%의 승률을 달성하여 GPT-4o 및 2단계 강화학습 에이전트보다 각각 23.0% 및 10.9%의 상대적 개선을 보였습니다. 특히, MaKTO는 전문가 플레이어와 대결에서 60%의 승률을 기록하고 튜링 테스트 스타일의 맹검 테스트에서 49%의 식별률만을 보이는 등 인간과 유사한 성능을 보여줍니다.

시사점, 한계점

시사점:
문맥 내 상호작용을 통한 언어 에이전트 학습의 효용성을 실증적으로 보여줌.
기존의 다단계 강화학습 에이전트보다 우수한 성능을 보이는 새로운 다중 에이전트 학습 프레임워크 (MaKTO) 제시.
인간 수준의 전략적 의사결정 및 언어 이해 능력을 갖춘 AI 에이전트 개발 가능성 제시.
AGI 개발을 위한 새로운 접근 방식 제시.
한계점:
늑대인간 게임이라는 특정 게임 환경에 국한된 결과. 일반화 가능성에 대한 추가 연구 필요.
MaKTO의 성능 평가가 특정 모델과 플레이어에 의존적일 수 있음. 다양한 모델 및 플레이어를 대상으로 한 추가 실험 필요.
KTO의 정확한 메커니즘에 대한 자세한 설명 부족.
실제 세계 문제에 대한 적용 가능성에 대한 추가 연구 필요.
👍