Enabling Agents to Communicate Entirely in Latent Space
Created by
Haebom
Category
Empty
저자
Zhuoyun Du, Runze Wang, Huiyu Bai, Zouying Cao, Xiaoyong Zhu, Bo Zheng, Wei Chen, Haochao Ying
개요
LLM 기반 에이전트의 협업 문제 해결을 위해, 자연어를 통한 정보 전달의 한계를 극복하고자 LLM의 마지막 hidden state를 직접 전송하는 Interlat (Inter-agent Latent Space Communication)을 제안합니다. 추가 압축 과정을 통해 잠재 공간 추론을 수행하여 추론 속도를 향상시키면서도 경쟁력 있는 성능을 유지합니다. Interlat은 CoT (Chain-of-Thought) 프롬프팅 및 단일 에이전트 기반 모델보다 우수한 성능을 보이며, 잠재 정보를 효과적으로 활용합니다.
시사점, 한계점
•
시사점:
◦
LLM 에이전트 간의 직접적인 latent space 통신 가능성 제시
◦
CoT 프롬프팅 및 단일 에이전트 기반 모델 대비 향상된 협업 성능
◦
압축 과정을 통한 추론 속도 향상
•
한계점:
◦
본 연구는 잠재 공간 내 에이전트 간 통신의 가능성을 보여주는 연구로, 향후 연구를 위한 기반 마련