Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

A Unified Framework for Human AI Collaboration in Security Operations Centers with Trusted Autonomy

Created by
  • Haebom

저자

Ahmad Mohsin, Helge Janicke, Ahmed Ibrahim, Iqbal H. Sarker, Seyit Camtepe

개요

본 논문은 Security Operations Center (SOC)에서의 인간-AI 협업을 위한 구조화된 프레임워크를 제시한다. 기존 SOC 프레임워크는 자동화에만 초점을 맞추고 인간 감독, 신뢰 보정, 확장 가능한 AI 자율성 관리 구조가 부족한 한계를 지닌다. 본 논문은 수동에서 완전 자율까지 5단계의 AI 자율성 수준을 기반으로 하는 새로운 자율성 계층화 프레임워크를 제안한다. 이는 인간-시스템-루프(HITL) 역할 및 작업별 신뢰 임계값에 매핑되어, 모니터링, 보호, 위협 탐지, 알림 분류, 사고 대응 등 핵심 SOC 기능 전반에 걸쳐 적응적이고 설명 가능한 AI 통합을 가능하게 한다. 제안된 프레임워크는 자율성, 신뢰 및 HITL 간의 공식적인 연결을 통해 작업 분배를 운영 복잡성 및 관련 위험에 따라 적응적으로 조정한다. LLM 기반 SOC 어시스턴트인 AI-Avatar를 활용한 사이버 범위 시뮬레이션을 통해 프레임워크를 예시하고, 알람 피로 감소, 대응 조정 향상, 신뢰 전략적 보정 등의 효과를 보여준다. 본 연구는 AI를 인간 의사결정을 대체하는 것이 아니라 향상시키는 차세대 인지 SOC 설계의 이론적, 실질적 측면 및 실현 가능성을 체계적으로 제시한다.

시사점, 한계점

시사점:
SOC에서 인간-AI 협업을 위한 구조적 프레임워크 제공
AI 자율성 수준, 신뢰, HITL 간의 관계를 명확히 정의
적응적이고 설명 가능한 AI 통합을 위한 체계적 접근 방식 제시
다양한 SOC 작업에 대한 자율성 수준 조정 가능
AI-Avatar 사례 연구를 통한 실제 적용 가능성 검증
알람 피로 감소 및 대응 효율 향상을 위한 실질적 해결책 제시
한계점:
제안된 프레임워크의 실제 SOC 환경 적용 및 확장성에 대한 추가적인 연구 필요
다양한 유형의 SOC 및 위협에 대한 프레임워크의 일반화 가능성 검증 필요
AI-Avatar의 성능 및 신뢰도에 대한 더욱 엄격한 평가 필요
프레임워크의 구현 및 유지보수에 대한 비용 및 복잡성 고려 필요
👍