Trojan Hippo: Weaponizing Agent Memory for Data Exfiltration

작성자

Haebom

카테고리

Empty

저자

Debeshee Das, Julien Piet, Darya Kaviani, Luca Beurer-Kellner, Florian Tramer, David Wagner

💡 개요

본 논문은 LLM 에이전트의 장기 기억 시스템을 악용하여 민감한 개인 정보를 탈취하는 새로운 공격 기법인 "트로이 목마 하마(Trojan Hippo)"를 제안합니다. 이 공격은 단 한 번의 신뢰할 수 없는 도구 호출을 통해 악성 페이로드를 잠재우고, 사용자가 금융, 건강 등 민감한 주제를 다룰 때만 활성화되어 정보를 빼돌립니다.

🔑 시사점 및 한계

•

새로운 위협 모델 제시: 기존 연구보다 현실적인 위협 모델에서 작동하는 영구 기억 공격을 체계적으로 평가할 수 있는 기반을 마련했습니다.

•

효과적인 공격 시연: 네 가지 다른 메모리 백엔드에서 트로이 목마 하마 공격이 OpenAI 및 Google의 최신 모델을 대상으로 85-100%의 높은 공격 성공률(ASR)을 달성함을 입증했습니다.

•

방어 기법의 효과 및 한계: 기본적인 보안 원리를 기반으로 한 네 가지 방어 기법이 공격 성공률을 현저히 낮추지만, 작업 요구 사항에 따라 유틸리티 비용이 크게 달라져 실질적인 배포에 어려움이 있음을 보여줍니다.

PDF 보기

Made with Slashpage