본 논문은 다양한 작업에서 강력한 성능을 보이는 대규모 언어 모델(LLM) 기반 에이전트 시스템의 한계를 해결하기 위해, 질의의 난이도에 따라 워크플로우 깊이, 연산자 선택, LLM 할당을 동적으로 조정하는 Difficulty-Aware Agentic Orchestration (DAAO) 프레임워크를 제안합니다. DAAO는 난이도 추정을 위한 변분 오토인코더(VAE), 모듈형 연산자 할당기, 비용 및 성능을 고려하는 LLM 라우터의 세 가지 상호 의존적인 모듈로 구성됩니다. 이를 통해 이종 LLM을 활용하고 워크플로우를 동적으로 조정하여 세분화된 질의별 추론 전략을 가능하게 합니다. 6가지 벤치마크에서 기존의 다중 에이전트 시스템보다 정확도와 추론 효율성 모두에서 우수한 성능을 보였습니다.
