본 논문은 다중 에이전트 강화 학습에서 안전성 문제를 해결하기 위해, 개별 에이전트 제약이 아닌 팀 전체에 대한 제약을 활용하는 방법을 제안합니다. 기존의 안전 강화 학습 알고리즘은 에이전트의 행동을 제약하여 탐색을 제한하는데, 이는 효과적인 협력 행동 발견에 중요한 요소입니다. 본 논문에서는 제약 조건 하에서의 다중 에이전트 강화 학습을 위한 엔트로피 탐색(E2C) 방법을 제시합니다. E2C는 관측 엔트로피 극대화를 통해 탐색을 장려하고 안전하고 효과적인 협력 행동 학습을 촉진합니다. 다양한 실험 결과, E2C는 기존의 제약 없는 및 제약 있는 기준 모델과 비교하여 성능이 동등하거나 우수하며, 안전하지 않은 행동을 최대 50%까지 줄이는 것으로 나타났습니다.
