본 논문은 Retrieval Augmented Generation (RAG) 시스템의 효율성을 향상시키기 위한 새로운 문맥 자르기 방법인 AttentionRAG를 제안합니다. 기존 방법인 LLMLingua는 문맥 인식이 부족하고 압축률 조절이 어려워 과도한 정보 손실 또는 불충분한 자르기 문제를 야기하는 반면, AttentionRAG는 어텐션 집중 메커니즘을 통해 RAG 질의를 다음 토큰 예측 패러다임으로 재구성하여 질의의 의미적 초점을 단일 토큰으로 분리함으로써 질의와 검색된 문맥 간의 정확하고 효율적인 어텐션 계산을 가능하게 합니다. LongBench와 Babilong 벤치마크를 이용한 실험 결과, AttentionRAG는 최대 6.3배의 문맥 압축률을 달성하면서 주요 지표에서 LLMLingua보다 약 10% 향상된 성능을 보였습니다.
