Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

LLM-Based User Simulation for Low-Knowledge Shilling Attacks on Recommender Systems

Created by
  • Haebom

저자

Shengkang Gu, Jiahao Liu, Dongsheng Li, Guangping Zhang, Mingzhe Han, Hansu Gu, Peng Zhang, Ning Gu, Li Shang, Tun Lu

개요

본 논문은 대규모 언어 모델(LLM) 기반 에이전트를 활용하여 추천 시스템(RS)에 대한 새로운 종류의 저지식, 고영향력 쉴링 공격을 수행하는 Agent4SR 프레임워크를 제시합니다. Agent4SR은 평점과 리뷰 생성을 통해 적대적 상호 작용을 조정하고, 항목을 선택하고, 평점을 할당하고, 리뷰를 작성하는 등 현실적인 사용자 행동을 시뮬레이션하여 시스템 출력을 조작합니다. 특히, 타겟 프로필 생성, 하이브리드 메모리 검색, 그리고 타겟 아이템 특징을 관련 없는 리뷰에 전파하여 조작 효과를 증폭시키는 리뷰 공격 전략을 포함합니다. 여러 데이터셋과 RS 아키텍처에 대한 광범위한 실험을 통해 Agent4SR이 기존의 저지식 기준보다 효과와 은밀성 면에서 우수함을 보여줍니다. 이는 LLM 기반 에이전트가 초래하는 새로운 유형의 위협을 보여주며, 현대 추천 시스템의 방어 강화의 필요성을 강조합니다.

시사점, 한계점

시사점:
LLM 기반 에이전트를 활용한 새로운 유형의 쉴링 공격의 위험성을 제시.
기존 저지식 기반 공격보다 효과적이고 은밀한 공격 기법 제시.
현대 추천 시스템의 보안 강화 필요성을 강조.
LLM 기반 에이전트의 잠재적 악용 가능성을 보여줌.
한계점:
Agent4SR의 방어 기법에 대한 논의 부족.
실제 세계 적용 가능성에 대한 추가 연구 필요.
특정 LLM 및 데이터셋에 대한 의존성.
다양한 공격 유형 및 추천 시스템 아키텍처에 대한 일반화 가능성 검증 필요.
👍