Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Unveiling the Landscape of LLM Deployment in the Wild: An Empirical Study

Created by
  • Haebom

저자

Xinyi Hou, Jiahao Han, Yanjie Zhao, Haoyu Wang

개요

본 논문은 오픈소스 및 상용 프레임워크를 통해 배포되는 대규모 언어 모델(LLM)의 보안 취약성에 대한 대규모 실증 연구 결과를 제시합니다. 인터넷 전반에 걸친 측정을 통해 15개 프레임워크에서 320,102개의 공개 LLM 서비스를 식별하고, 12개 기능 그룹으로 분류된 158개의 고유 API 엔드포인트를 추출했습니다. 분석 결과, 40% 이상의 엔드포인트가 일반 HTTP를 사용하고, 210,000개 이상의 엔드포인트가 유효한 TLS 메타데이터가 없었습니다. 일부 프레임워크는 인증되지 않은 API 요청의 35% 이상에 응답하여 모델 또는 시스템 정보 유출을 야기하는 등 API 노출이 매우 불일치했습니다. 불안전한 프로토콜 사용, 부적절한 TLS 구성 및 중요 작업에 대한 인증되지 않은 액세스가 광범위하게 관찰되었습니다. 이러한 보안 위험은 모델 유출, 시스템 손상 및 무단 액세스와 같은 심각한 결과를 초래할 수 있습니다.

시사점, 한계점

시사점:
LLM 서비스의 보안 취약성이 심각하며, 안전한 기본 설정 및 강화된 배포 관행이 필요함을 보여줍니다.
다양한 LLM 프레임워크 간 보안 수준의 불일치를 확인하고, 개선 방향을 제시합니다.
모델 유출, 시스템 손상, 무단 액세스 등의 위험성을 구체적으로 제시하여 보안 강화의 중요성을 강조합니다.
한계점:
특정 시간대의 스냅샷 기반 연구이므로, 시간 경과에 따른 변화를 반영하지 못할 수 있습니다.
분석 대상이 인터넷에 공개된 서비스로 제한되어, 비공개적으로 배포되는 LLM의 보안 현황은 반영하지 못합니다.
발견된 취약점의 심각성 및 잠재적 영향에 대한 정량적 평가가 부족할 수 있습니다.
👍