Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Novelty Detection in Reinforcement Learning with World Models

Created by
  • Haebom

저자

Geigh Zollicoffer, Kenneth Eaton, Jonathan Balloch, Julia Kim, Wei Zhou, Robert Wright, Mark O. Riedl

개요

본 논문은 월드 모델을 사용하는 강화 학습(RL)에서 갑작스러운 환경 변화(novelty)에 대한 에이전트의 취약성을 해결하기 위해, 월드 모델의 예측 상태와 실제 관측 상태의 불일치를 이용한 간단하고 효과적인 novelty detection 방법을 제안합니다. 기존의 기계 학습 기반 novelty detection 방법 및 기존 RL 기반 novelty detection 알고리즘과 비교하여 제안된 방법의 우수성을 새로운 환경에서 검증합니다. 핵심 아이디어는 월드 모델의 환각 상태와 실제 관측 상태 간의 불일치를 이상치 점수로 활용하여 novelty를 탐지하는 것입니다.

시사점, 한계점

•
시사점:
◦
월드 모델 기반 RL 에이전트의 robustness 향상에 기여.
◦
간단하고 효과적인 novelty detection 방법 제시.
◦
기존 방법 대비 우수한 성능을 새로운 환경에서 검증.
•
한계점:
◦
제안된 방법의 일반화 성능에 대한 추가적인 연구 필요.
◦
다양한 유형의 novelty에 대한 robustness 평가 필요.
◦
특정 환경에 최적화된 hyperparameter 설정에 대한 고찰 필요.
👍
Made with Slashpage