Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Data Fusion-Enhanced Decision Transformer for Stable Cross-Domain Generalization

Created by
  • Haebom
Category
Empty

저자

Guojian Wang, Quinson Hon, Xuyang Chen, Lin Zhao

개요

Cross-domain 환경 변화는 Decision Transformer(DT) 정책에 큰 도전 과제를 제시합니다. 기존의 교차 도메인 정책 적응 방법은 소스 궤적 조각을 선택하고 결합하기 위해 단일 필터링 기준에 의존합니다. 하지만 이러한 조각들은 연결성이 떨어져, DT의 추론 능력을 저하시킵니다. 본 연구에서는 이러한 문제를 해결하기 위해 Data Fusion-Enhanced Decision Transformer (DFDT)를 제안합니다. DFDT는 두 단계의 데이터 필터, MMD(Maximum Mean Discrepancy)를 통한 상태 구조 정렬, OT(Optimal Transport)를 통한 행동 적합성을 사용하여 목표 데이터를 선택적으로 신뢰할 수 있는 소스 조각과 융합합니다. 또한, RTG(Return-to-Go) 토큰을 어드밴티지 기반 토큰으로 대체하고, Q-guided regularizer를 적용하여 성능을 향상시킵니다. 이론적으로 MMD-mismatch와 OT-deviation 간의 관계를 보여주는 경계(bound)를 제시하고, D4RL 스타일의 제어 작업에서 강력한 오프라인 RL 및 시퀀스 모델 기반과 비교하여 DFDT의 성능 향상을 입증합니다.

시사점, 한계점

시사점:
DFDT는 교차 도메인 환경에서 DT 정책의 성능을 향상시키기 위한 효과적인 방법론을 제시합니다.
두 단계의 데이터 필터링과 어드밴티지 기반 토큰, Q-guided regularizer를 통해 궤적의 연결성과 안정성을 개선했습니다.
이론적 경계를 통해 DFDT의 성능을 설명하고, 실제 실험을 통해 그 효과를 입증했습니다.
한계점:
제안된 방법론의 일반화 가능성에 대한 추가적인 연구가 필요합니다.
다른 종류의 교차 도메인 시프트 환경에서의 성능 검증이 필요합니다.
계산 복잡성 및 실제 적용 가능성에 대한 추가적인 분석이 필요합니다.
👍