본 논문은 대규모 언어 모델(LLM)의 정적인 지식 한계를 외부 지식 통합을 통해 보완하는 검색 증강 생성(RAG)의 취약점을 다룹니다. RAG는 사실 정확성과 쿼리 특정 문맥화를 향상시키지만, 동시에 코퍼스 포이즈닝과 같은 새로운 공격 표면을 만들어냅니다. 기존 방어 방법들은 모델의 내부 지식에 의존하는데, 이는 RAG의 설계 개념과 상충됩니다. EcoSafeRAG는 이러한 문제를 해결하기 위해 LLM 내부 지식에 의존하지 않고, 후보 문서의 문맥 다양성을 분석하여 악성 콘텐츠를 식별하는 문장 수준 처리 및 미끼 유도 문맥 다양성 감지 방식을 사용합니다. 실험 결과, EcoSafeRAG는 플러그 앤 플레이 방식으로 최첨단 보안을 제공하며, 정상적인 상황에서 RAG 성능을 향상시키는 동시에 실용적인 운영 비용(Vanilla RAG 대비 지연 시간 1.2배, 토큰 감소 48%-80%)을 유지합니다.
