HyMem: Hybrid Memory Architecture with Dynamic Retrieval Scheduling

Created by

Haebom

저자

Xiaochen Zhao, Kaikai Wang, Xiaowen Zhang, Chen Yao, Aili Wang

💡 개요

대규모 언어 모델(LLM) 에이전트는 긴 대화에서 비효율적인 메모리 관리로 인해 성능이 저하되는 문제가 있습니다. 본 논문은 인지 경제 원칙에 영감을 받아, 요약 수준의 컨텍스트와 복잡한 쿼리에만 선택적으로 작동하는 딥 모듈을 사용하는 계층적 메모리 구조인 HyMem을 제안합니다. HyMem은 메모리 압축과 원시 텍스트 유지 사이의 성능과 효율성 절충점을 극복하며, LOCOMO 및 LongMemEval 벤치마크에서 우수한 성능을 보여주었습니다.

🔑 시사점 및 한계

•

LLM 에이전트의 장기 대화 성능 향상을 위한 효과적인 하이브리드 메모리 아키텍처 제시.

•

인간의 인지적 메모리 관리 방식 모방을 통해 효율성과 성능의 균형점 달성.

•

실제 복잡한 시나리오에서의 동적 스케줄링 메커니즘의 추가적인 검증 및 최적화 필요.

PDF 보기

Made with Slashpage