본 논문은 사전 훈련된 에이전트가 환경에서 작동하고 인간 운영자가 일정 기간 동안 에이전트의 작동을 일시적으로 중단하고 직접 제어할 수 있는 상황을 고려합니다. 이러한 시나리오는 자율 주행, 공장 자동화, 의료와 같은 인간-기계 상호 작용에서 흔히 볼 수 있습니다. 이러한 설정에서 일반적으로 두 가지 극단적인 경우 사이의 절충이 관찰됩니다. 인수가 허용되지 않으면 에이전트는 최적이 아니고 위험할 수 있는 정책을 사용할 수 있습니다. 반대로, 인수가 너무 많으면 인간은 에이전트에 대한 신뢰도가 떨어져 유용성이 크게 제한됩니다. 본 논문에서는 이러한 설정을 공식화하고 인간 개입 횟수를 최적화하는 데 도움이 되는 설명 가능성 체계를 제안합니다.
