Affordable AI Assistants with Knowledge Graph of Thoughts
Created by
Haebom
저자
Maciej Besta, Lorenzo Paleari, Jia Hao Andrea Jiang, Robert Gerstenberger, You Wu, Patrick Iff, Ales Kubicek, Piotr Nyczyk, Diana Khimey, Jon Gunnar Hannesson, Grzegorz Kwasniewski, Marcin Copik, Hubert Niewiadomski, Torsten Hoefler
개요
본 논문은 대규모 언어 모델(LLM) 기반 AI 어시스턴트의 높은 운영 비용과 복잡한 벤치마크(예: GAIA)에서의 낮은 성공률 문제를 해결하기 위해, 지식 그래프(KG)를 동적으로 생성하여 LLM 추론과 통합하는 새로운 아키텍처인 지식 사고 그래프(KGoT)를 제안합니다. KGoT는 작업 관련 지식을 동적 KG로 추출 및 구조화하고, 수학 솔버, 웹 크롤러, Python 스크립트 등의 외부 도구를 통해 반복적으로 향상시킵니다. 이러한 구조화된 지식 표현을 통해 저비용 모델도 복잡한 작업을 효과적으로 해결할 수 있습니다. GAIA 벤치마크에서 GPT-4o mini를 사용한 Hugging Face Agents 대비 29%의 성공률 향상과 36배 이상의 비용 절감을 달성하였으며, Qwen2.5-32B 및 Deepseek-R1-70B와 같은 최신 추론 모델에서도 유사한 성능 향상을 보였습니다. KGoT는 확장성, 경제성, 높은 성능을 갖춘 AI 어시스턴트 솔루션을 제공합니다.
시사점, 한계점
•
시사점:
◦
LLM 기반 AI 어시스턴트의 비용 효율성을 크게 향상시킬 수 있는 새로운 아키텍처 제시
◦
동적 지식 그래프를 활용하여 복잡한 작업에 대한 성공률을 높임
◦
다양한 LLM 및 외부 도구와의 통합 가능성
◦
확장 가능하고 경제적인 AI 어시스턴트 개발 가능성 제시
•
한계점:
◦
KGoT의 성능이 특정 벤치마크(GAIA)에 국한되어 일반화 가능성에 대한 추가 연구 필요
