본 논문은 강화학습(RL) 환경에서의 문맥 내 학습(ICL)의 한계를 극복하기 위해, 과거 경험에서 현재 상황에 관련된 부분 경로만을 검색하는 메모리 메커니즘을 사용하는 Retrieval-Augmented Decision Transformer (RA-DT)를 제안합니다. RA-DT는 훈련이 필요없는 도메인 비의존적인 검색 구성요소를 사용하며, 그리드 월드 환경, 로봇 시뮬레이션, 절차적으로 생성된 비디오 게임에서 기존 방법보다 우수한 성능을 보입니다. 특히, 짧은 문맥 길이만으로도 높은 성능을 달성합니다. 본 논문은 복잡한 환경에서 기존 ICL 방법의 한계를 밝히고, 향후 연구 방향을 제시하며, 사용된 네 가지 환경에 대한 데이터셋을 공개합니다.