RIPRAG: Black-Box Poisoning Attacks against Retrieval-Augmented Generation Systems
개요:
본 논문은 대규모 언어 모델(LLM) 기반 검색 증강 생성(RAG) 시스템에 대한 블랙박스 공격 프레임워크인 RIPRAG를 제안한다. 이 공격은 RAG 시스템의 내부 구성 요소 및 구현 세부 사항에 대한 지식 없이, 시스템의 출력을 통해 공격 성공 여부를 판단하여 강화 학습(RL)을 통해 공격 목표에 맞는 악성 문서를 생성한다. 실험 결과는 RIPRAG가 복잡한 RAG 시스템에 효과적인 공격을 수행하며, 기존 방법보다 공격 성공률(ASR)을 향상시킬 수 있음을 보여준다.
시사점, 한계점:
•
시사점:
◦
RIPRAG는 복잡한 RAG 시스템에 대한 효과적인 블랙박스 공격을 가능하게 함을 입증했다.
