Active Learning for Communication Structure Optimization in LLM-Based Multi-Agent Systems

작성자

Haebom

카테고리

Empty

저자

Huchen Yang, Xinghao Dong, Dan Negrut, Jin-Long Wu

💡 개요

본 논문은 대규모 언어 모델 기반 다중 에이전트 시스템(LLM-MAS)에서 통신 구조 최적화의 중요성을 강조하며, 기존의 무작위 샘플링 방식이 가진 비효율성과 불안정성을 지적합니다. 이를 해결하기 위해, 에이전트 시스템의 그래프 매개변수 분포에 대한 정보량을 측정하는 정보 이론 기반의 능동 학습 프레임워크를 제안합니다. 제안된 방법은 앙상블 칼만 역행렬을 사용하여 효율적이고 미분 불가능한 근사를 제공하며, 특히 블랙박스 및 노이즈 환경에 적합합니다.

🔑 시사점 및 한계

•

LLM 기반 다중 에이전트 시스템의 통신 구조 최적화에 있어 능동 학습 접근 방식이 무작위 샘플링보다 효율적임을 입증했습니다.

•

제안된 앙상블 기반 정보 이론적 태스크 선택 프레임워크는 계산 예산이 제한된 상황에서 통신 구조 최적화의 안정성과 성능을 크게 향상시킬 수 있습니다.

•

실제 시스템의 복잡성, 에이전트 공격의 다양한 형태, 그리고 모델의 확장성 개선을 위한 추가적인 연구가 필요합니다.

PDF 보기

Made with Slashpage