RAGFort: Dual-Path Defense Against Proprietary Knowledge Base Extraction in Retrieval-Augmented Generation
Created by
Haebom
Category
Empty
저자
Qinfeng Li, Miao Pan, Ke Xiong, Ge Su, Zhiqiang Shen, Yan Liu, Bing Sun, Hao Peng, Xuhong Zhang
개요
Retrieval-Augmented Generation (RAG) 시스템이 지식 기반 복제 공격에 취약하며, 기존 방어 체계는 단일 경로만 방어하는 한계가 있다. 본 논문은 RAG 시스템의 지식 기반 추출 공격에 대응하기 위해, "contrastive reindexing"을 통한 inter-class 고립과 "constrained cascade generation"을 통한 intra-class 보호를 결합한 구조 인식 듀얼 모듈 방어 시스템 RAGFort를 제안한다. RAGFort는 보안, 성능, 견고성 측면에서 실험을 통해 지식 기반 복제 성공률을 유의미하게 감소시키면서 답변 품질을 유지함을 입증했다.
시사점, 한계점
•
시사점:
◦
RAG 시스템의 지식 기반 복제 공격에 대한 종합적인 방어 체계 제시.
◦
"contrastive reindexing"과 "constrained cascade generation"의 듀얼 모듈 방식을 통해 inter-class 및 intra-class 공격 경로를 모두 방어.
