Kai Mei, Xi Zhu, Wujiang Xu, Wenyue Hua, Mingyu Jin, Zelong Li, Shuyuan Xu, Ruosong Ye, Yingqiang Ge, Yongfeng Zhang
개요
본 논문은 대규모 언어 모델(LLM) 기반 지능형 에이전트의 자원 관리 문제를 해결하기 위해 AIOS(LLM-based AI Agent Operating System) 아키텍처를 제안한다. 현존하는 에이전트 설계는 자원 관리 메커니즘이 부족하여 비효율적인 자원 할당 및 활용, 동시 처리의 어려움 등의 문제를 야기한다. AIOS는 LLM 및 외부 도구와 같은 자원들을 에이전트 애플리케이션으로부터 격리하여 운영체제 커널 역할을 수행한다. 스케줄링, 컨텍스트 관리, 메모리 관리, 저장소 관리, 접근 제어 등의 기본 서비스와 효율적인 자원 관리 기능을 제공하며, 사용 편의성을 위해 AIOS-Agent SDK를 함께 제공한다. 실험 결과, AIOS를 사용하면 다양한 에이전트 프레임워크로 구축된 에이전트의 실행 속도를 최대 2.1배까지 향상시킬 수 있음을 보여준다. 소스 코드는 깃허브에서 공개적으로 이용 가능하다.