Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Entropic Risk Optimization in Discounted MDPs: Sample Complexity Bounds with a Generative Model

Created by
  • Haebom

저자

Oliver Mortensen, Mohammad Sadegh Talebi

개요

본 논문은 위험 매개변수 β≠0을 갖는 재귀적 엔트로피 위험 선호를 가진 에이전트가 존재하는 할인 마르코프 의사결정 과정(MDP)에서 최적 상태-행동 값 함수 Q와 최적 정책 π를 학습하는 샘플 복잡도를 분석합니다. MDP의 생성 모델을 사용할 수 있다는 가정하에, 모델 기반 위험 감수적 Q-값 반복(MB-RS-QVI)이라는 간단한 모델 기반 접근 방식을 제시하고 분석합니다. 이 방법은 k번의 반복 후 MB-RS-QVI의 출력인 Qk와 Qk에 대한 탐욕적 정책인 πk에 대해 ||Q*-Qk||과 ||V*-Vπk||에 대한 (ε,δ)-PAC 경계를 제공합니다. 두 PAC 경계 모두 유효 지평선 1/(1-γ)에 대해 지수적 의존성을 가지며, 이 의존성의 강도는 학습자의 위험 감수성 |β|와 함께 증가합니다. 또한, |β|/(1-γ)에 대한 지수적 의존성이 두 경우 모두 불가피함을 보여주는 두 가지 하한선을 제시합니다. 하한선은 Q-학습에 대한 PAC 경계가 행동의 수 A에 대해, 정책 학습에 대한 PAC 경계가 A에 대해 거의 타이트함을 보여줍니다.

시사점, 한계점

시사점: MB-RS-QVI 알고리즘을 통해 위험 감수적 MDP에서 최적 상태-행동 값 함수와 최적 정책을 학습하는 샘플 복잡도에 대한 이론적 보장을 제공합니다. 제시된 PAC 경계는 ε, δ에 대해 타이트하며, 행동의 수 A에 대한 의존성 또한 분석합니다. 위험 감수성이 학습 난이도에 미치는 영향을 정량적으로 분석합니다.
한계점: PAC 경계는 유효 지평선 1/(1-γ)에 대해 지수적 의존성을 가지며, 이 의존성은 위험 감수성 |β|에 따라 증가합니다. 이는 고차원 MDP 또는 긴 지평선 문제에서 샘플 복잡도가 매우 클 수 있음을 시사합니다. 분석은 생성 모델의 가용성을 전제로 합니다. 실제 환경에서 생성 모델을 얻는 것은 어려울 수 있습니다. 하한선 분석은 A에 대한 PAC 경계의 타이트함을 완전히 증명하지 못하고 거의 타이트함만을 보입니다.
👍