자율 다중 에이전트 시스템(MAS)은 복잡한 작업 자동화에 유용하지만, 조정 실패 및 목표 불일치와 같은 위험으로 인해 신뢰 문제를 야기합니다. 설명 가능성은 신뢰 보정에 매우 중요하지만, MAS를 위한 설명 가능한 강화 학습은 상태/작용 공간 복잡성, 이해 관계자 요구 사항 및 평가에 어려움을 겪습니다. 본 논문에서는 반실증적 인과 이론과 대규모 언어 모델(LLM)의 요약 기능을 사용하여 질문적 시뮬레이션을 통한 에이전트 설명(AXIS)을 제안합니다. AXIS는 '만약 ~라면' 및 '제거'와 같은 질의를 사용하여 환경 시뮬레이터를 LLM이 질문하여 여러 라운드에 걸쳐 반실증적 정보를 관찰하고 종합함으로써 사전 훈련된 다중 에이전트 정책에 대한 명확한 인과적 설명을 생성합니다. 5개의 LLM에 대해 10가지 시나리오에서 자율 주행을 통해 주관적 선호도, 정확성 및 목표/작업 예측 지표를 결합한 새로운 평가 방법론과 외부 LLM을 평가자로 사용하여 AXIS를 평가합니다. 기준선과 비교하여 AXIS는 모든 모델에서 인식된 설명 정확성을 최소 7.7% 향상시키고 4개 모델에서 목표 예측 정확도를 23% 향상시키며, 작업 예측 정확도는 향상되거나 비슷하며 전반적으로 최고 점수를 달성합니다.
