Training and Evaluating Diffusion Policies with Long Context Lengths

작성자

Haebom

카테고리

Empty

저자

Abhinav Agarwal, Adam Wei, Taylan Kargin, Michael Zeng, Cole Becker, Arif Kerem Dayi, Pablo Parrilo, Asuman Ozdaglar, Russ Tedrake

💡 개요

본 논문은 RGB 관찰만으로도 고도로 숙련된 로봇 조작을 가능하게 하는 모방 학습의 한계점, 즉 짧은 관찰 기록에만 의존하여 기억력이 필요한 작업을 수행하지 못하고 동일한 실패 동작을 반복하는 문제를 해결하고자 합니다. 연구진은 다양한 작업과 데이터 환경에서 컨텍스트 길이 증가에 따른 확산 정책(Diffusion Policies)의 성능을 최초로 상세히 벤치마킹하였으며, 적절한 컨디셔닝 방법과 UNet+Cross-Attention 기반 백본을 사용하면 컨텍스트 길이 확장이 예상보다 덜 취약하며, 단일 작업 정책으로도 높은 성공률을 달성할 수 있음을 발견했습니다. 더 나아가, 여러 컨텍스트 길이를 동시에 학습하는 훈련 알고리즘을 제안하여 장기 컨텍스트 학습의 샘플 복잡성을 줄였습니다.

🔑 시사점 및 한계

•

확산 정책에서 컨텍스트 길이 확장이 기존 연구에서 주장하는 것보다 덜 취약하며, 특정 조건 하에서는 간단한 확장으로도 좋은 성능을 얻을 수 있습니다.

•

다중 컨텍스트 길이 동시 학습 알고리즘은 장기 컨텍스트 학습에 필요한 데이터 양을 줄이는 데 효과적입니다.

•

본 연구는 장기 컨텍스트 모방 학습에 대한 기존 연구들의 해결책을 재평가하고 새로운 관점을 제시합니다.

•

연구 결과가 특정 데이터셋 및 작업에 국한될 수 있으며, 실제 로봇 환경에서의 일반화 성능 검증이 필요합니다.

PDF 보기

Made with Slashpage