Novelty Detection in Reinforcement Learning with World Models
Created by
Haebom
저자
Geigh Zollicoffer, Kenneth Eaton, Jonathan Balloch, Julia Kim, Wei Zhou, Robert Wright, Mark O. Riedl
개요
본 논문은 월드 모델을 사용하는 강화 학습(RL)에서 갑작스러운 환경 변화(novelty)에 대한 에이전트의 취약성을 해결하기 위해, 월드 모델의 예측 상태와 실제 관측 상태의 불일치를 이용한 간단하고 효과적인 novelty detection 방법을 제안합니다. 기존의 기계 학습 기반 novelty detection 방법 및 기존 RL 기반 novelty detection 알고리즘과 비교하여 제안된 방법의 우수성을 새로운 환경에서 검증합니다. 핵심 아이디어는 월드 모델의 환각 상태와 실제 관측 상태 간의 불일치를 이상치 점수로 활용하여 novelty를 탐지하는 것입니다.