Sign In

The Geometry of Dialogue: Graphing Language Models to Reveal Synergistic Teams for Multi-Agent Collaboration

Created by
  • Haebom
Category
Empty

저자

Kotaro Furuya, Yuichi Kitagawa

개요

대규모 언어 모델(LLM) 기반 다중 에이전트 접근 방식은 단일 모델의 능력을 뛰어넘는 유망한 전략이지만, 시너지 효과가 있는 팀 구성에 크게 의존한다. 본 논문은 모델의 내부 특성에 대한 사전 지식 없이 자동 팀 구성을 위한 상호 작용 중심 프레임워크를 제안한다. "언어 모델 그래프"를 구축하여 모델 간의 관계를 파악하고, 커뮤니티 탐지를 통해 시너지 효과가 있는 모델 클러스터를 식별한다. 다양한 LLM을 대상으로 한 실험을 통해 제안된 방법론이 잠재된 전문성을 반영하는 기능적으로 일관된 그룹을 발견했으며, 특정 주제로 대화를 유도하여 시너지 효과가 있는 팀이 구성되어 다운스트림 벤치마크에서 무작위 기준보다 뛰어난 성능을 보였고, 수동으로 구성된 팀과 유사한 정확도를 달성했다.

시사점, 한계점

시사점:
LLM 기반 다중 에이전트 팀 구성을 자동화하는 새로운 프레임워크 제시.
모델의 내부 구조, 훈련 데이터, 또는 작업 성능에 대한 사전 지식 없이 팀 구성 가능.
상호 작용 분석을 통해 모델 간의 관계를 파악하고 시너지 효과를 내는 팀 구성.
다운스트림 벤치마크에서 수동 구성 팀과 유사한 성능 달성.
한계점:
모델 간의 상호 작용을 기반으로 한 팀 구성이 특정 작업에 최적화될 수 있음.
실험에 사용된 LLM의 종류 및 특성에 따라 결과가 달라질 수 있음.
언어 모델 그래프 구축 및 커뮤니티 탐지 과정의 계산 복잡성 고려 필요.
👍