Retrieval-Augmented Generation (RAG) 기반의 기존 대형 언어 모델(LLMs)은 정적인 단일 턴 상호작용과 고정된 도구 세트에 제한되어 의료 및 스마트 홈과 같은 동적인 환경에는 적합하지 않습니다. 본 논문에서는 재훈련 없이 다중 턴 대화와 변화하는 도구 환경을 지원하도록 RAG를 확장하는 경량 프레임워크인 Dynamic Context Tuning (DCT)을 제시합니다. DCT는 관련 과거 정보를 추적하기 위한 주의 기반 컨텍스트 캐시, 도메인 특정 도구를 동적으로 선택하기 위한 LoRA 기반 검색, 그리고 LLM 컨텍스트 제한 내에서 입력을 유지하기 위한 효율적인 컨텍스트 압축을 통합합니다. 합성 및 실제 벤치마크 실험 결과, DCT는 계획 정확도를 14% 향상시키고 환각을 37% 감소시키는 동시에 GPT-4 성능과 유사한 수준을 훨씬 낮은 비용으로 달성합니다. 또한 DCT는 이전에 보지 못한 도구에도 일반화되어 다양한 동적 환경에서 확장 가능하고 적응 가능한 AI 어시스턴트를 가능하게 합니다.
