본 논문은 대규모 언어 모델(LLM) 기반 시스템을 효율적으로 구성하기 위한 방법으로, 어려운 문제를 하위 문제로 분해하는 접근법에 대해 논의한다. 기존의 LLM 기반 시스템 분해는 주로 인간의 직관적인 역할 분담 방식에 의존하는데, 이는 최적의 효율성을 보장하지 못할 수 있다. 따라서 논문에서는 LLM의 전방 패스를 계산 비용의 기본 단위로 간주하여 점근적 분석을 통해 LLM 에이전트 간의 최적 분해 전략을 연구할 것을 제안한다. 이를 통해 특정 LLM의 내부 동작과는 독립적으로, LLM 집합의 효율적인 조정 방식에 대한 이해를 높이고, LLM 배포의 확장성을 향상시킬 수 있다고 주장한다. 인간 중심적 사고 대신, 점근적 분석을 기반으로 한 LLM 기반 시스템 분해 전략 개발의 필요성을 강조한다.
