Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

A Large-Scale Empirical Analysis of Custom GPTs' Vulnerabilities in the OpenAI Ecosystem

Created by
  • Haebom

저자

Sunday Oyinlola Ogundoyin, Muhammad Ikram, Hassan Jameel Asghar, Benjamin Zi Hao Zhao, Dali Kaafar

개요

본 논문은 OpenAI 마켓플레이스에 있는 14,904개의 커스텀 GPT를 분석하여, 역할극 기반 공격, 시스템 프롬프트 유출, 피싱 콘텐츠 생성, 악성 코드 합성 등 7가지 착취 가능한 위협에 대한 취약성을 평가한 연구이다. 커스텀 GPT의 인기도와 보안 위험 간의 관계를 분석하기 위해 다중 지표 순위 시스템을 도입하였다. 연구 결과, 95% 이상의 커스텀 GPT가 적절한 보안 조치가 부족하며, 역할극 기반 취약성(96.51%), 시스템 프롬프트 유출(92.20%), 피싱(91.22%)이 가장 흔한 취약성임을 밝혔다. 또한 OpenAI의 기본 모델에 고유한 보안 취약성이 존재하며, 이는 커스텀 GPT에서 종종 상속되거나 증폭됨을 보여주었다.

시사점, 한계점

•
시사점:
◦
커스텀 GPT의 보안 취약성이 심각하며, 역할극 기반 공격, 시스템 프롬프트 유출, 피싱 등에 대한 강력한 보안 조치가 시급함을 밝힘.
◦
OpenAI 기본 모델의 보안 취약성이 커스텀 GPT에 영향을 미치므로, 기본 모델의 보안 강화가 필수적임을 시사.
◦
커스텀 GPT의 인기도와 보안 위험 간의 상관관계 분석을 통해, 위험 관리 및 보안 정책 수립에 대한 실질적인 데이터를 제공.
•
한계점:
◦
OpenAI 마켓플레이스에 제한된 데이터만을 사용하여 분석하였으므로, 다른 플랫폼의 커스텀 GPT에 대한 일반화에는 주의가 필요.
◦
분석에 사용된 7가지 위협 외 다른 유형의 위협은 고려되지 않았을 가능성이 있음.
◦
다중 지표 순위 시스템의 구체적인 내용 및 평가 기준에 대한 자세한 설명이 부족할 수 있음.
👍
Made with Slashpage