본 논문은 항공우주와 같이 안전이 중요한 영역에서 대규모 언어 모델(LLM) 기반 다중 에이전트 시스템(MAS)의 안전성을 강화하기 위한 방어 프레임워크를 제시합니다. 연구진은 통계적 강건성 인증 기법인 랜덤 스무딩을 MAS 합의 맥락에 적용하여 적대적 영향 하에서 에이전트 결정에 대한 확률적 보장을 가능하게 합니다. 기존 검증 방법과 달리, 본 연구의 접근 방식은 블랙박스 환경에서 작동하며 강건성과 계산 효율성의 균형을 맞추기 위해 2단계 적응적 샘플링 메커니즘을 사용합니다. 시뮬레이션 결과는 제안된 방법이 합의 성능을 유지하면서 적대적 행동과 환각의 전파를 효과적으로 방지함을 보여줍니다. 이 연구는 실제 고위험 환경에서 LLM 기반 MAS의 안전한 배포를 위한 실용적이고 확장 가능한 경로를 제공합니다.
