Beyond Autoregressive RTG: Conditioning via Injection Outside Sequential Modeling in Decision Transformer

작성자

Haebom

카테고리

Empty

저자

Yongyi Wang, Hanyu Liu, Lingfeng Li, Bozhou Chen, Ang Li, Qirui Zheng, Xionghui Yang, Chucai Wang, Wenxin Li

💡 개요

본 논문은 기존 Decision Transformer (DT)가 Return-to-Go (RTG) 정보를 개별 토큰으로 처리하여 발생하는 계산 비효율성을 지적합니다. 제안된 SlimDT는 RTG 정보를 순차 모델링 전에 상태 표현에 주입하여, RTG 토큰을 제거하고 시퀀스 길이를 단축함으로써 효율성을 개선합니다. 이를 통해 D4RL 벤치마크에서 기존 DT를 능가하는 성능을 달성했습니다.

🔑 시사점 및 한계

•

정보량이 적은 RTG를 별도 토큰으로 처리하는 대신, 상태 정보에 통합함으로써 연산 효율성을 크게 향상시킬 수 있습니다.

•

순차 모델링 외부에서 조건을 주입하는 방식은 계산 비용 절감과 동시에 모델 성능 향상을 가져올 수 있습니다.

•

RTG 외 다른 형태의 조건 신호를 효과적으로 통합하기 위한 추가적인 연구가 필요합니다.

PDF 보기

Made with Slashpage