본 논문은 대규모 언어 모델(LLM) 기반의 대화형 AI 검색 제품의 산업적 한계를 해결하기 위해, 정적 콘텐츠와 동적 실시간 정보에 모두 접근하는 새로운 세 단계 프레임워크인 TURA(Tool-Augmented Unified Retrieval Agent for AI Search)를 제안합니다. 기존의 RAG(Retrieval-Augmented Generation) 접근 방식은 실시간 요구 사항과 동적으로 생성되는 콘텐츠(예: 티켓 예약 가능 여부 또는 재고)에 접근해야 하는 구조화된 쿼리에 어려움을 겪습니다. TURA는 의도 인식 검색 모듈, DAG 기반 작업 계획자, 경량화된 증류 에이전트 실행기의 세 가지 주요 구성 요소를 통해 정적 콘텐츠와 동적 정보 소스 간의 간극을 체계적으로 해소합니다. TURA는 수천만 명의 사용자에게 서비스를 제공하며, 에이전트 프레임워크를 활용하여 대규모 산업 시스템의 낮은 지연 시간 요구 사항을 충족하면서 강력하고 실시간 답변을 제공합니다.
시사점, 한계점
•
시사점:
◦
기존 RAG의 한계를 극복하고 동적 실시간 정보까지 처리 가능한 새로운 AI 검색 아키텍처 제시
◦
의도 인식 검색, DAG 기반 작업 계획, 경량 에이전트 실행기를 통한 효율적인 정보 처리 및 낮은 지연 시간 달성
