Cross-Task Experiential Learning on LLM-based Multi-Agent Collaboration
Created by
Haebom
저자
Yilong Li, Chen Qian, Yu Xia, Ruijie Shi, Yufan Dang, Zihao Xie, Ziming You, Weize Chen, Cheng Yang, Weichuan Liu, Ye Tian, Xuantang Xiong, Lei Han, Zhiyuan Liu, Maosong Sun
개요
대규모 언어 모델 기반 다중 에이전트 시스템(MAS)은 협업적 추론 및 에이전트 간 비판을 통해 복잡한 작업 해결에 상당한 진전을 보였습니다. 하지만 기존 접근 방식은 각 작업을 개별적으로 처리하여 중복된 계산과 구조적으로 유사한 작업 간의 제한된 일반화를 초래합니다. 이를 해결하기 위해 본 논문에서는 LLM 기반 에이전트에 명시적인 교차 작업 학습 및 경험 축적 기능을 부여하는 새로운 프레임워크인 다중 에이전트 교차 작업 경험 학습(MAEL)을 제시합니다. 작업 해결 워크플로우를 에이전트가 명시적인 연결을 통해 정보를 전파하고 조정하는 그래프 구조의 다중 에이전트 협업 네트워크에서 모델링합니다. 경험 학습 단계에서 작업 해결 워크플로우의 각 단계에 대한 품질을 정량화하고 해당 결과 보상을 해당 입력 및 출력과 함께 각 에이전트의 개별 경험 풀에 저장합니다. 추론 중에 에이전트는 고보상의 작업 관련 경험을 몇 가지 예시로 검색하여 각 추론 단계의 효율성을 높여 더 정확하고 효율적인 다중 에이전트 협업을 가능하게 합니다. 다양한 데이터 세트에 대한 실험 결과는 MAEL이 에이전트가 이전 작업 경험으로부터 효과적으로 학습하여 현재 작업에서 더 빠른 수렴과 더 높은 품질의 솔루션을 생성함을 보여줍니다.
시사점, 한계점
•
시사점:
◦
다중 에이전트 시스템의 효율성과 일반화 성능을 향상시키는 새로운 프레임워크 MAEL 제시
◦
그래프 기반 다중 에이전트 협업 네트워크를 통해 에이전트 간 정보 전파 및 조정 효율 증대
