Mission-Level Runtime Assurance for LLM-Assisted ISR Swarms over a Verification-Aware Fabric
작성자
카테고리
Vide
저자
Nikolaos Kekatos, Stylianos Basagiannis, Panagiotis Katsaros, Alexios Lekidis, Tom Nianios
💡 개요
본 논문은 LLM(거대 언어 모델)으로 지원되는 자율 로봇 군집이 적대적 환경에서 정보, 감시 및 정찰(ISR) 임무를 수행할 때 발생하는 새로운 유형의 임무 실패 문제에 주목합니다. 개별 로봇의 행동은 규정을 준수하더라도 전체 군집 차원에서 임무 정책을 위반할 수 있으며, 기존의 플랫폼별 감시 체계로는 이를 탐지하기 어렵다는 점을 지적합니다. 이를 해결하기 위해 제안된 3단계(플랫폼/분대/임무) 구성적 런타임 검증 프레임워크는 임무 정책을 분해하고, 검증 인지 메시징 패브릭을 통해 플랫폼별 결과를 취합하며, 증거를 고려한 대수적 방식으로 통합하여 위반의 근거를 추적합니다.
🔑 시사점 및 한계
•
군집 차원의 임무 실패 탐지: 기존의 개별 로봇 감시를 넘어서는 군집 전체의 정책 위반을 탐지하는 프레임워크의 필요성과 가능성을 제시합니다.
•
증거 가용성 및 불확실성 처리: 통신 단절이나 지연 등으로 인한 증거 부족 상황에서도 임무 실패를 효과적으로 감지하고, 불완전한 정보에 기반한 오탐(false positive)을 방지합니다.
•
적대적 환경에서의 LLM 지원 로봇 시스템의 신뢰성 확보: LLM의 잠재적인 오작동이나 악의적인 공격으로 인한 임무 실패를 런타임에 보장할 수 있는 기반 기술을 제공합니다.
•
확장성 및 실제 시스템 적용: 제안된 프레임워크의 복잡성과 대규모 로봇 군집 및 실제 ISR 임무 환경에서의 적용 가능성 및 성능 검증이 필요합니다.
