Cognitive Guardrails for Open-World Decision Making in Autonomous Drone Swarms
Created by
Haebom
저자
Jane Cleland-Huang, Pedro Antonio Alarcon Granadeno, Arturo Miguel Russell Bernal, Demetrius Hernandez, Michael Murphy, Maureen Petterson, Walter Scheirer
개요
소형 무인 항공 시스템(sUAS)이 수색 및 구조 등 재난 대응 시나리오에서 자율적인 군집으로 점점 더 많이 배치되고 있습니다. 이러한 환경에서 sUAS는 컴퓨터 비전(CV)을 사용하여 관심 있는 물체를 감지하고 임무를 자율적으로 조정합니다. 그러나 기존의 CV 시스템은 종종 개방형 환경에서 익숙하지 않은 물체를 인식하거나 임무 계획과 관련성을 추론하는 데 어려움을 겪습니다. 이를 해결하기 위해, 본 논문은 감지된 물체와 그 의미에 대해 추론하기 위해 대규모 언어 모델(LLM)을 통합합니다. LLM은 귀중한 통찰력을 제공할 수 있지만, 환각 현상이 발생하기 쉽고 잘못되거나 오해의 소지가 있거나 안전하지 않은 권장 사항을 생성할 수 있습니다. 불확실성 하에서 안전하고 합리적인 의사 결정을 보장하기 위해, 고차원적인 의사 결정은 인지적 안전장치에 의해 관리되어야 합니다. 본 논문은 수색 및 구조 임무에서 sUAS 군집을 위한 이러한 안전장치의 설계, 시뮬레이션 및 실제 통합을 제시합니다.
시사점, 한계점
•
시사점:
◦
LLM을 활용하여 sUAS 군집의 임무 계획 및 적응성을 향상시킬 수 있는 새로운 방법 제시.
