Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Whose Narrative is it Anyway? A KV Cache Manipulation Attack

Created by
  • Haebom
Category
Empty

저자

Mukkesh Ganesh, Kaushik Iyer, Arun Baalaaji Sankar Ananthan

개요

본 논문은 오토회귀 대규모 언어 모델(LLM)의 효율적인 추론을 위한 핵심 요소인 Key Value(KV) 캐시가 무결성 공격의 대상이 될 수 있음을 지적하며, "History Swapping"이라는 새로운 블록 수준 공격 기법을 제안한다. 이 공격은 사용자 프롬프트를 변경하지 않고도 모델 생성을 조작하기 위해 활성 생성의 KV 캐시의 연속된 부분을 다른 주제의 미리 계산된 캐시로 덮어쓰는 방식으로 이루어진다. Qwen 3 모델 제품군에서 324가지 구성으로 이 기법을 실험 평가하여 캐시 덮어쓰기의 타이밍, 크기 및 레이어 깊이의 영향을 분석했다.

시사점, 한계점

•
시사점:
◦
KV 캐시는 단순히 컨텍스트뿐만 아니라 주제 궤적 및 구조적 계획도 인코딩하여 모델 동작을 조작하는 강력한 인터페이스가 될 수 있음을 입증.
◦
완전한 레이어 덮어쓰기만이 대화의 주제를 성공적으로 탈취할 수 있으며, 즉각적이고 지속적인 주제 변경, 부분적 복구 또는 지연된 탈취와 같은 세 가지 뚜렷한 동작을 보임.
◦
고수준 구조적 계획은 생성 초기에 인코딩되고, 로컬 담론 구조는 모델의 마지막 레이어에 의해 유지됨을 발견.
◦
KV 캐시가 보안 분석을 위한 중요한 벡터임을 보여줌.
•
한계점:
◦
논문에서 구체적인 한계점에 대한 언급은 없음.
👍
Made with Slashpage