Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

AutoMaAS: Self-Evolving Multi-Agent Architecture Search for Large Language Models

Created by
  • Haebom

저자

Bo Ma, Hang Li, ZeHua Hu, XiaoFan Gui, LuYao Liu, Simon Liu

개요

대규모 언어 모델 기반의 멀티 에이전트 시스템은 다양한 분야에서 뛰어난 성능을 보이지만, 기존 자동 설계 방식은 질의 복잡성과 도메인 요구 사항에 따라 리소스 할당을 조절하지 못하는 단점이 있습니다. 본 논문은 AutoMaAS를 소개하며, 이는 신경망 구조 검색 원리를 활용하여 동적 연산자 수명 주기 관리 및 자동 머신 러닝 기술을 통해 최적의 에이전트 구성을 자동 발견하는 자기 진화형 멀티 에이전트 아키텍처 검색 프레임워크입니다. AutoMaAS는 성능-비용 분석 기반 자동 연산자 생성, 융합 및 제거, 실시간 파라미터 조정을 통한 동적 비용 인식 최적화, 지속적인 아키텍처 개선을 위한 온라인 피드백 통합, 의사 결정 추적 메커니즘을 통한 향상된 해석 가능성 등 4가지 핵심 혁신을 포함합니다. 여섯 개의 벤치마크에 대한 광범위한 실험을 통해 AutoMaAS는 최첨단 방법론에 비해 1.0-7.1%의 성능 향상과 3-5%의 추론 비용 감소를 달성했습니다. 또한, AutoMaAS는 데이터셋과 LLM 백본 간의 뛰어난 전이성을 보여주며, 대규모 언어 모델 시대의 자동화된 멀티 에이전트 시스템 설계에 대한 새로운 패러다임을 제시합니다.

시사점, 한계점

시사점:
자동 연산자 관리 및 동적 비용 인식 최적화를 통해 성능과 비용 효율성 모두 개선.
온라인 피드백 통합으로 지속적인 아키텍처 개선 가능.
의사 결정 추적 메커니즘을 통해 해석 가능성 향상.
다양한 데이터셋 및 LLM 백본에 걸쳐 우수한 전이성을 보임.
대규모 언어 모델 기반 멀티 에이전트 시스템 설계를 위한 새로운 접근 방식 제시.
한계점:
논문에 명시된 한계점 정보 부재. (논문 전체 요약본이 아니므로 구체적인 한계점은 파악 불가)
👍