Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Inducing Personality in LLM-Based Honeypot Agents: Measuring the Effect on Human-Like Agenda Generation

Created by
  • Haebom
Category
Empty

저자

Lewis Newsham, Ryan Hyland, Daniel Prince

개요

SANDMAN은 언어 에이전트를 활용하여 설득력 있는 인간 시뮬라크라를 에뮬레이션하는 사이버 기만 아키텍처이다. '기만 에이전트'는 고충실도 공격자 참여를 위해 공격 행동 관찰 기간을 연장하도록 설계된 고급 사이버 유인물 역할을 한다. 본 논문은 5요소 성격 모델에 기반한 프롬프트 스키마가 대규모 언어 모델에서 구별되는 '성격'을 체계적으로 유도하는 방법을 실험, 측정 및 분석을 통해 보여준다. 연구 결과는 다양하고 현실적인 행동을 생성하는 페르소나 기반 언어 에이전트의 실현 가능성을 강조하며, 궁극적으로 사이버 기만 전략을 개선한다.

시사점, 한계점

•
시사점:
◦
페르소나 기반 언어 에이전트를 활용한 사이버 기만 전략의 실현 가능성을 제시한다.
◦
5요소 성격 모델 기반 프롬프트 스키마를 통해 다양하고 현실적인 공격자 행동 관찰을 가능하게 한다.
◦
공격 행동 관찰 기간 연장을 통해 사이버 공격 분석 및 대응에 유용한 정보를 제공한다.
•
한계점:
◦
현재는 실험적 결과에 국한되어 실제 사이버 공격 환경에서의 효과 검증이 부족하다.
◦
대규모 언어 모델의 성능 및 한계에 따라 기만 에이전트의 효율성이 영향을 받을 수 있다.
◦
고도화된 공격자는 기만 에이전트를 식별할 가능성이 존재한다.
👍
Made with Slashpage