본 논문은 강화학습(Reinforcement Learning, RL) 에이전트가 훈련 중에도 안전하게 행동해야 하는 실제 시나리오를 다룹니다. 기존 안전 강화학습(Safe RL) 방법들은 선형 계획법에 기반하여 엄격한 안전성을 보장하지만, 확장성이 제한적입니다. 본 논문에서는 마르코프 결정 과정(Markov Decision Process, MDP)의 안전 역학이 알려져 있고, 안전성이 할인되지 않은 확률적 회피 속성으로 정의될 때, 엄격한 형식적 안전성 보장을 제공하는 새로운 확장 가능한 Safe RL 방법을 제시합니다. MDP의 상태 증강과 에이전트의 사용 가능한 행동을 제한하는 보호막(shield) 설계를 기반으로, 훈련 및 테스트 시간 모두에서 에이전트의 안전성을 보장하는 엄격한 형식적 안전성 보장을 제공함을 보입니다. 실험적 평가를 통해 실제 적용 가능성을 입증합니다.
