Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

The Hidden Dangers of Browsing AI Agents

Created by
  • Haebom

저자

Mykyta Mudryi, Markiyan Chaklosh, Grzegorz Wojcik

개요

본 논문은 대규모 언어 모델(LLM) 기반의 자율 브라우징 에이전트의 보안 취약성을 종합적으로 평가한 연구이다. 동적 콘텐츠, 툴 실행, 사용자 제공 데이터 의존성으로 인해 광범위한 공격에 노출되는 자율 브라우징 에이전트의 시스템적 취약성에 초점을 맞추고, 최초의 엔드-투-엔드 위협 모델을 제시하며 실제 환경에서의 안전한 배포를 위한 실행 가능한 지침을 제공한다. 인풋 위생 처리, 플래너-실행기 분리, 형식 분석기, 세션 보호 장치를 포함하는 심층 방어 전략을 제안하여 초기 접근 및 침해 후 공격 벡터로부터 보호한다. 오픈 소스 프로젝트인 Browser Use에 대한 화이트박스 분석을 통해 신뢰할 수 없는 웹 콘텐츠가 에이전트 동작을 탈취하여 심각한 보안 위반으로 이어질 수 있음을 보여주고, 프롬프트 주입, 도메인 유효성 검사 우회, 자격 증명 유출 등의 취약점을 CVE 공개 및 개념 증명 공격을 통해 입증한다.

시사점, 한계점

•
시사점:
◦
LLM 기반 자율 브라우징 에이전트의 시스템적 보안 취약성을 최초로 종합적으로 분석하고 위협 모델을 제시함.
◦
실제 환경에서의 안전한 배포를 위한 실행 가능한 방어 전략(입력 위생화, 플래너-실행기 분리, 형식 분석기, 세션 보호)을 제안함.
◦
오픈소스 프로젝트 분석을 통해 실제 공격 시나리오(프롬프트 주입, 도메인 유효성 검사 우회, 자격 증명 유출)를 증명하고 CVE를 공개함.
•
한계점:
◦
특정 오픈 소스 프로젝트(Browser Use)에 대한 분석 결과를 기반으로 하므로, 다른 자율 브라우징 에이전트에도 동일하게 적용될 수 있는지에 대한 일반화 가능성에 대한 추가 연구가 필요함.
◦
제안된 방어 전략의 효율성 및 성능에 대한 정량적 평가가 부족함.
◦
다양한 공격 벡터와 방어 기법에 대한 더욱 포괄적인 연구가 필요함.
👍
Made with Slashpage