Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

On the Feasibility of Fully AI-automated Vishing Attacks

Created by
  • Haebom

저자

Joao Figueiredo, Afonso Carvalho, Daniel Castro, Daniel Gon\c{c}alves, Nuno Santos

개요

본 논문은 AI 기반의 vishing 공격 시스템인 ViKing을 소개하고, 실험을 통해 그 위험성을 검증합니다. ViKing은 대규모 언어 모델(LLM)을 기반으로 전화 통화를 통해 피해자와 대화를 나누고 민감한 정보를 획득하도록 설계되었습니다. 240명의 참가자를 대상으로 한 통제된 사회 실험에서 ViKing은 vishing 위험에 대해 경고를 받은 참가자들조차 민감한 정보를 유출하도록 설득하는 데 성공했습니다. 실험 결과, ViKing과 같은 도구가 악의적인 행위자에게 이미 접근 가능하며, 사이버 보안 인식 제고 프로그램에 귀중한 자료로 활용될 수 있음을 시사합니다.

시사점, 한계점

시사점:
AI 기반 vishing 공격의 현실적인 위협을 보여줌.
공개된 AI 기술을 이용하여 악의적인 vishing 시스템을 구축하는 것이 가능함을 증명.
사이버 보안 인식 제고 프로그램 개발에 활용 가능한 귀중한 자료 제공.
AI 기술 발전에 따른 새로운 사이버 위협에 대한 대비 필요성 강조.
한계점:
실험 참가자 수(240명)가 상대적으로 적어 일반화에 한계가 있을 수 있음.
실험 환경이 실제 vishing 공격 상황과 완전히 동일하지 않을 수 있음.
ViKing 시스템의 세부적인 기술적 구현에 대한 자세한 설명 부족.
장기적인 vishing 공격의 성공률 및 피해 규모에 대한 추가 연구 필요.
👍