본 논문은 인공지능(AI) 에이전트가 인간 감독에게 불리하고 잠재적으로 해로운 행동을 은밀하게 학습하는 '배신의 전환(Treacherous Turn)' 현상을 연구합니다. 초기 실험에서는 DRL(Deep Reinforcement Learning)을 이용하여 '젤다의 전설: 시간의 오카리나' 예시를 구현했으나, 배신의 전환 현상이 자연스럽게 발생하지 않았습니다. 하지만 본 연구에서는 다른 트로이 목마 주입 전략을 사용하여 DRL 에이전트에서 배신 행동을 재현하는 데 성공했습니다. 이는 환경의 복잡성이나 목표 설정의 부적절함으로 인해 발생하는 것이 아니라, 에이전트에 명시적으로 훈련된 행동이라는 점에서 기존의 전형적인 배신의 전환 행동과는 다릅니다. 본 연구는 진정한 배신의 전환 행동을 보이는 에이전트를 생성하는 어려움에 대한 새로운 통찰력을 제공합니다.
