Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Text-to-Decision Agent: Offline Meta-Reinforcement Learning from Natural Language Supervision

Created by
  • Haebom

저자

Shilin Zhang, Zican Hu, Wenhao Wu, Xinyi Xie, Jianxiang Tang, Chunlin Chen, Daoyi Dong, Yu Cheng, Zhenhong Sun, Zhi Wang

개요

본 논문은 오프라인 메타 강화학습(offline meta-RL)에서 고품질 샘플이나 사전 탐색(warmup explorations)에 의존하는 기존 방식의 한계를 극복하기 위해, 자연어를 이용한 새로운 프레임워크 T2DA(Text-to-Decision Agent)를 제안합니다. T2DA는 다양한 작업의 의사결정 데이터를 역동성을 고려한 임베딩 공간으로 인코딩하는 일반화된 월드 모델을 사용합니다. CLIP에서 영감을 받아, 텍스트 설명과 의사결정 임베딩 간의 대조 학습을 통해 의미 간극을 해소하고, 텍스트 임베딩이 환경 역동성을 이해하도록 정렬합니다. 훈련된 텍스트 조건부 일반 정책(text-conditioned generalist policy)은 자연어 명령에 대한 제로샷 텍스트-투-의사결정 생성을 가능하게 합니다. MuJoCo와 Meta-World 벤치마크에서의 실험 결과, T2DA는 높은 성능의 제로샷 일반화를 달성하고 다양한 기준 모델들을 능가함을 보여줍니다.

시사점, 한계점

시사점:
자연어를 이용한 오프라인 메타 강화학습의 새로운 가능성 제시
고품질 샘플이나 사전 탐색 없이 제로샷 일반화 달성
텍스트 기반의 다양한 작업에 대한 적응력 향상
CLIP 기반의 대조 학습을 통한 효과적인 의미 간극 해소
일반화된 월드 모델을 통한 다양한 작업 데이터 처리
한계점:
제안된 월드 모델의 일반화 능력에 대한 추가적인 분석 필요
특정 유형의 자연어 명령에 대한 성능 저하 가능성
복잡한 작업 환경에 대한 적용 가능성 및 확장성 검증 필요
자연어 이해의 정확도에 대한 의존성
👍