본 논문은 Retrieval-augmented generation (RAG)에서 발생하는 높은 추론 비용 문제를 해결하기 위해 적응적 컨텍스트 압축(Adaptive Context Compression, ACC) 기법을 제안합니다. 기존의 고정된 압축률 방식과 달리, ACC-RAG는 입력 질의의 복잡도에 따라 동적으로 압축률을 조절하여 효율성과 정확도를 동시에 향상시킵니다. 계층적 압축기와 컨텍스트 선택기를 활용하여 사람이 글을 훑어보는 것처럼 최소한의 필요 정보만을 유지합니다. Wikipedia와 5개의 질의응답(QA) 데이터셋을 이용한 실험 결과, ACC-RAG는 기존의 고정 압축률 방식보다 성능이 우수하며, 표준 RAG 대비 4배 이상 빠른 추론 속도를 달성하면서 정확도를 유지하거나 향상시켰습니다.
