Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Swarm Intelligence Enhanced Reasoning: A Density-Driven Framework for LLM-Based Multi-Agent Optimization

Created by
  • Haebom

저자

Ying Zhu, Heng Zhou, Rui Su, Peiqin Zhuang, Lei Bai

개요

본 논문은 대규모 언어 모델(LLM)의 복잡한 문제 해결 능력을 향상시키기 위해 군집 지능(Swarm Intelligence)을 통합하는 새로운 Agent-based Swarm Intelligence (ASI) 패러다임을 제안한다. 기존의 Chain-of-Thought (CoT) prompting이나 Multi-Agent Debate (MAD)와 달리, 최적의 해결책을 찾는 능력에 초점을 맞춰, LLM 추론을 최적화 문제로 공식화하고 군집 지능 기법을 이용하여 LLM 기반 에이전트 그룹이 협력적으로 최적의 해결책을 찾도록 한다. 특히, 지역 최적해에 빠지는 것을 방지하기 위해 Swarm Intelligence Enhancing Reasoning (SIER) 프레임워크를 개발하여 밀도 기반 전략을 통해 추론 능력을 향상시킨다. 커널 밀도 추정과 비지배 정렬을 사용하여 해의 질과 다양성을 동시에 최적화하고, 단계별 품질 평가를 통해 에이전트가 저품질 중간 단계를 수정하여 해의 질을 향상시킨다. 품질 임계값을 사용하여 탐색의 종료와 후보 단계의 선택을 동적으로 제어하여 유연하고 효율적인 추론 과정을 가능하게 한다.

시사점, 한계점

시사점:
LLM의 복잡한 문제 해결 능력 향상에 새로운 접근 방식 제시
군집 지능을 활용하여 최적 해결책 탐색 가능성 증대
SIER 프레임워크를 통해 지역 최적해 문제 해결 및 해의 질과 다양성 향상
단계별 품질 평가 및 동적 종료 제어를 통한 효율적인 추론 과정 구현
한계점:
제안된 방법의 실제 성능 및 일반화 성능에 대한 추가적인 실험 및 분석 필요
다양한 유형의 복잡한 문제에 대한 적용 가능성 및 한계 검증 필요
계산 비용 및 복잡도에 대한 평가 및 최적화 필요
밀도 기반 전략 및 품질 임계값 설정에 대한 최적화 방안 연구 필요
👍