본 논문은 외부 지식 소스와 대규모 언어 모델(LLM)을 통합하는 검색 증강 생성(RAG) 시스템이 다양한 적대적 공격에 취약하다는 점을 다룹니다. 최근 산업계의 RAG 시스템 채택 동향을 검토하고, 프롬프트 주입, 데이터 포이즈닝, 적대적 쿼리 조작 등 RAG 시스템의 주요 공격 벡터를 확인합니다. 리스크 관리 관점에서 이러한 위협을 분석하고, 입력 유효성 검사, 적대적 훈련, 실시간 모니터링과 같은 위험 완화 조치를 포함하는 강력한 우선 순위 제어 목록을 제안합니다.
