Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Surrogate-Assisted Evolutionary Reinforcement Learning Based on Autoencoder and Hyperbolic Neural Network

Created by
  • Haebom

저자

Bingdong Li, Mei Jiang, Hong Qian, Peng Yang, Wenjing Hong, Hong Qian, Ke Tang

개요

본 논문은 진화 강화 학습(ERL)의 높은 계산 비용과 낮은 탐색 효율성 문제를 해결하기 위해, 오토인코더(AE)와 쌍곡선 신경망(HNN)을 통합한 새로운 서로게이트 기반 ERL 방법을 제안합니다. AE는 고차원 정책을 저차원으로 압축하여 주요 특징을 추출하고, HNN은 분류 기반 서로게이트 모델로서 샘플링된 정책들 간의 복잡한 비선형 관계를 학습하여 실제 평가 없이 효과적인 정책을 사전 선택합니다. 10개의 Atari 게임과 4개의 Mujoco 게임에 대한 실험 결과, 제안된 방법이 기존 방법보다 성능이 크게 향상되었음을 보여주며, AE와 HNN에 의해 안내되는 탐색 경로가 탐색 및 수렴 측면에서 더 효과적임을 시각적으로 보여줍니다. 본 논문은 고차원 ERL 정책에 대한 최초의 학습 가능한 정책 임베딩 및 서로게이트 모델링 모듈을 제시하고, 이들이 성공하는 경우와 이유를 실험적으로 밝힙니다.

시사점, 한계점

시사점:
고차원 ERL 정책의 효율적인 탐색 및 학습을 위한 새로운 서로게이트 기반 방법 제시.
AE와 HNN의 통합을 통해 고차원 정책의 효과적인 저차원 표현 및 서로게이트 모델링 달성.
Atari 및 Mujoco 게임 실험을 통해 제안 방법의 우수한 성능 검증.
학습 가능한 정책 임베딩 및 서로게이트 모델링 모듈의 성공 조건과 이유에 대한 실험적 분석 제공.
한계점:
제안된 방법의 성능이 특정 게임 환경에 국한될 가능성.
AE와 HNN의 하이퍼파라미터 최적화에 대한 추가 연구 필요.
더욱 다양하고 복잡한 환경에서의 성능 평가 필요.
서로게이트 모델의 정확도에 대한 추가적인 분석 필요.
👍