본 논문은 대규모 언어 모델의 장기 기억 관리 문제를 해결하기 위해 계층적 트리 구조의 메모리 표현 방식인 MemTree 알고리즘을 제안한다. MemTree는 새로운 정보와 기존 정보의 의미적 임베딩을 비교하여 동적으로 메모리 구조를 조정하며, 각 노드는 텍스트 내용, 의미적 임베딩, 추상화 수준을 포함한다. 기존의 평평한 룩업 테이블 기반 방식과 달리, 계층적 메모리 관리를 통해 복잡한 추론 및 장기 상호작용에서 효율성을 높인다. 다회전 대화 이해 및 문서 질의응답 벤치마크 평가 결과, MemTree는 구조화된 메모리 관리가 필요한 시나리오에서 성능을 크게 향상시키는 것으로 나타났다.
