Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

CTSAC: Curriculum-Based Transformer Soft Actor-Critic for Goal-Oriented Robot Exploration

Created by
  • Haebom
Category
Empty

저자

Chunyu Yang, Shengben Bi, Yihui Xu, Xin Zhang

개요

본 논문은 효율적이고 유연한 로봇 탐사 솔루션에 대한 수요 증가에 따라 강화 학습(RL)이 자율 로봇 탐사 분야에서 유망한 접근 방식으로 떠오르고 있음을 지적합니다. 하지만 기존 RL 기반 탐사 알고리즘은 환경 추론 능력의 제한, 느린 수렴 속도, 그리고 시뮬레이션-실제(Sim-To-Real, S2R) 전이에서 상당한 어려움에 직면합니다. 이러한 문제를 해결하기 위해, 본 논문에서는 탐사 효율성과 전이 성능을 모두 향상시키는 것을 목표로 하는 커리큘럼 학습 기반 트랜스포머 강화 학습 알고리즘(Curriculum Learning-based Transformer Reinforcement Learning Algorithm, CTSAC)을 제안합니다. 로봇의 추론 능력을 향상시키기 위해, 소프트 액터-크리틱(Soft Actor-Critic, SAC) 프레임워크의 지각 네트워크에 트랜스포머를 통합하여 과거 정보를 활용하여 전략의 선견지명을 향상시킵니다. 주기적인 검토 기반 커리큘럼 학습을 제안하여 커리큘럼 전환 중 끔찍한 망각을 완화하는 동시에 훈련 효율성을 높입니다. 훈련은 ROS-Gazebo 연속 로봇 시뮬레이션 플랫폼에서 수행되며, LiDAR 클러스터링 최적화를 통해 S2R 격차를 더욱 줄입니다. 실험 결과는 CTSAC 알고리즘이 성공률과 성공률 가중 탐사 시간 측면에서 최첨단 비학습 및 학습 기반 알고리즘을 능가함을 보여줍니다. 또한, 실제 세계 실험은 CTSAC의 강력한 S2R 전이 능력을 검증합니다.

시사점, 한계점

시사점:
커리큘럼 학습과 트랜스포머를 결합한 새로운 강화 학습 알고리즘(CTSAC)을 제시하여 로봇 탐사의 효율성과 S2R 전이 성능을 향상시켰습니다.
LiDAR 클러스터링 최적화를 통해 시뮬레이션과 실제 환경 간의 차이를 줄였습니다.
실험 결과를 통해 CTSAC 알고리즘의 우수성과 S2R 전이 성능을 검증했습니다.
한계점:
제안된 알고리즘의 일반화 성능에 대한 추가적인 연구가 필요합니다.
다양한 환경과 로봇 플랫폼에 대한 적용 가능성을 더욱 검증해야 합니다.
커리큘럼 설계의 최적화에 대한 추가 연구가 필요할 수 있습니다.
실제 환경에서의 탐사 작업의 복잡성에 대한 고려가 더 필요할 수 있습니다.
👍