Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

A Unified Framework for Human AI Collaboration in Security Operations Centers with Trusted Autonomy

Created by
  • Haebom

저자

Ahmad Mohsin, Helge Janicke, Ahmed Ibrahim, Iqbal H. Sarker, Seyit Camtepe

개요

본 논문은 보안 관제 센터(SOC)에서 인간-AI 협업을 위한 구조적 프레임워크를 제시한다. 이 프레임워크는 AI 자율성, 신뢰 보정, 그리고 인간 개입 의사결정을 통합한다. 기존 SOC 프레임워크는 자동화에만 초점을 맞추고 인간 감독, 신뢰 보정, 그리고 AI와의 확장 가능한 자율성 관리 구조를 갖추지 못한 경우가 많다. 또한, 정적이거나 이분법적인 자율성 설정을 가정하여 인간과 AI 협업을 고려한 다양한 복잡성, 중요성 및 위험을 고려하지 못한다. 이러한 한계를 해결하기 위해, 본 논문에서는 수동에서 완전 자율까지 5단계의 AI 자율성 수준을 기반으로 하는 새로운 자율성 계층 프레임워크를 제안한다. 이는 인간 개입(HITL) 역할과 작업별 신뢰 임계값에 매핑되어 핵심 SOC 기능(모니터링, 보호, 위협 탐지, 경고 분류, 사고 대응 포함) 전반에 걸쳐 적응적이고 설명 가능한 AI 통합을 가능하게 한다. 제안된 프레임워크는 다양한 SOC 수준에서 자율성, 신뢰 및 HITL 간의 공식적인 연결을 만듦으로써 이전 연구와 차별화된다. 이는 운영 복잡성 및 관련 위험에 따라 적응적인 작업 분배를 가능하게 한다. 이 프레임워크는 사이버 보안 AI-Avatar(미세 조정된 LLM 기반 SOC 어시스턴트)를 특징으로 하는 시뮬레이션된 사이버 훈련장을 통해 예시된다. AI-Avatar 사례 연구는 SOC 작업에 대한 인간-AI 협업을 보여주며, 경고 피로 감소, 응답 조정 향상, 그리고 전략적인 신뢰 보정을 보여준다. 본 연구는 인간의 의사결정을 향상시키기 위해 AI를 활용하는 차세대 인지 SOC 설계의 이론적 및 실제적 측면과 실현 가능성을 체계적으로 제시한다.

시사점, 한계점

시사점:
SOC에서 인간-AI 협업을 위한 구조적이고 적응적인 프레임워크 제공
AI 자율성, 신뢰 보정, 인간 개입 의사결정의 통합적 관리
작업 복잡성 및 위험에 따른 동적인 작업 분배 가능
경고 피로 감소 및 응답 조정 향상을 통한 SOC 효율성 증대
설명 가능한 AI 통합을 통한 신뢰도 향상
차세대 인지 SOC 설계를 위한 이론적 및 실제적 기반 제시
한계점:
제안된 프레임워크의 실제 SOC 환경 적용 및 확장성에 대한 추가적인 검증 필요
다양한 유형의 SOC 및 사이버 위협에 대한 일반화 가능성 검토 필요
AI-Avatar와 같은 특정 AI 모델에 대한 의존성으로 인한 일반성 제약 가능성
신뢰 보정 메커니즘의 세부적인 구현 및 평가 부족
인간-AI 협업 과정에서 발생할 수 있는 윤리적, 법적 문제에 대한 고려 부족
👍