본 논문은 강화학습(Reinforcement Learning, RL) 에이전트가 보상을 극대화하는 동시에 훈련 과정을 포함하여 안전하게 행동해야 하는 현실적인 시나리오를 다룹니다. 기존의 안전한 강화학습(Safe RL) 방법들은 선형 계획법에 기반하여 엄격한 안전성 보장을 제공하지만, 확장성이 제한적입니다. 본 논문에서는 마르코프 결정 과정(Markov Decision Process, MDP)의 안전 역학이 알려져 있고, 안전성이 할인되지 않은 확률적 회피 속성으로 정의될 때, 엄격한 형식적 안전 보장을 제공하는 새로운 확장 가능한 Safe RL 방법을 제시합니다. MDP의 상태 증강과 에이전트가 사용할 수 있는 행동을 제한하는 보호막(shield) 설계를 기반으로 하며, 훈련 및 테스트 시간에 에이전트가 안전하게 유지된다는 엄격한 형식적 안전 보장을 제공함을 보여줍니다. 실험적 평가를 통해 본 접근 방식의 실용성을 입증합니다.
