# One Shot Dominance: Knowledge Poisoning Attack on Retrieval-Augmented Generation Systems

### 저자

Zhiyuan Chang, Mingyang Li, Xiaojun Jia, Junjie Wang, Yuekai Huang, Ziyou Jiang, Yang Liu, Qing Wang

### 💡 개요

본 논문은 검색 증강 생성(RAG) 시스템의 보안 취약점을 파고들어, 단 한 개의 오염된 문서만으로도 RAG 시스템을 효과적으로 공격할 수 있는 새로운 지식 오염 공격 기법인 AuthChain을 제안합니다. 기존 공격 방식의 한계점(다수 문서 오염 또는 단순 질의만 가능)을 극복하고, 복잡한 다단계 질의에서도 신뢰할 수 있는 오염된 문서를 LLM이 검색하고 신뢰하도록 만드는 세 가지 난제를 해결합니다.

### 🔑 시사점 및 한계

- RAG 시스템은 외부 지식 의존성으로 인해 지식 오염 공격에 취약하며, 특히 단일 문서 오염만으로도 효과적인 공격이 가능하다는 점을 입증했습니다.

- 제안된 AuthChain 공격은 복잡한 다단계 질의에서도 높은 성공률과 은닉성을 보여 RAG 시스템의 보안 강화 필요성을 강조합니다.

- 대규모 지식 기반과 LLM 자체 지식에도 불구하고 효과적인 공격을 설계하는 것은 여전히 어려운 과제이며, 향후 RAG 시스템의 견고성 향상을 위한 방어 메커니즘 연구가 필요합니다.

---

[PDF 보기](https://arxiv.org/pdf/2505.11548)

For the site tree, see the [root Markdown](https://slashpage.com/haebom.md).