Bài báo này trình bày hai cuộc tấn công đầu độc kiến thức (KPA) khai thác lỗ hổng trong mô hình GraphRAG (Graph-based Retrieval-Augmented Generation). GraphRAG chuyển đổi văn bản thô thành đồ thị kiến thức có cấu trúc để cải thiện độ chính xác và khả năng giải thích của LLM. Chúng tôi đề cập đến khả năng thao túng độc hại đối với quy trình trích xuất kiến thức của LLM từ văn bản thô. Hai cuộc tấn công được đề xuất là Targeted KPA (TKPA) và Universal KPA (UKPA). TKPA sử dụng phân tích lý thuyết đồ thị để xác định các nút dễ bị tấn công trong đồ thị được tạo ra và viết lại các mô tả tương ứng thành LLM, kiểm soát chính xác các kết quả trả lời câu hỏi (QA) cụ thể. UKPA khai thác các tín hiệu ngôn ngữ, chẳng hạn như đại từ và phụ thuộc, để thay đổi các từ có ảnh hưởng toàn cầu, do đó phá hủy tính toàn vẹn cấu trúc của đồ thị được tạo ra. Kết quả thử nghiệm chứng minh rằng ngay cả những sửa đổi văn bản nhỏ cũng có thể làm giảm đáng kể độ chính xác QA của GraphRAG, làm nổi bật sự thất bại của các kỹ thuật phòng thủ hiện có trong việc phát hiện các cuộc tấn công này.
