Continually Evolving Skill Knowledge in Vision Language Action Model

Created by

Haebom

저자

Yuxuan Wu, Guangming Wang, Zhiheng Yang, Maoqing Yao, Brian Sheil, Hesheng Wang

💡 개요

본 논문은 사전 학습된 Vision-Language-Action (VLA) 모델의 효율적인 지속 학습 문제를 해결하기 위해 새로운 지식 기반 지속 모방 학습 (CIL) 프레임워크인 Stellar VLA를 제안합니다. Stellar VLA는 네트워크 매개변수를 늘리지 않으면서 태스크 표현과 학습된 지식 공간을 공동으로 최적화하여 지식을 스스로 발전시킵니다. 또한, 지식 관계와 Top-K 의미론적 임베딩에 기반한 지식 안내 전문가 라우팅 메커니즘을 통해 모델 크기 증가 없이 태스크 전문화를 가능하게 합니다.

🔑 시사점 및 한계

•

기존 VLA 모델의 지속 학습 시 발생하는 매개변수 증가 또는 외부 모듈 사용 문제를 해결하여 효율적인 적응을 가능하게 합니다.

•

태스크 표현과 지식 공간을 공동으로 학습함으로써 모델이 스스로 지식을 발전시키고 보유하도록 합니다.

•

특히 계층적 태스크 학습에 효과적인 TS-Stellar 모델은 복잡한 조작 작업에서 뛰어난 성능을 보입니다.

•

1% 데이터 재현만으로도 강력한 성능을 달성하며, 실제 로봇 환경에서의 효과적인 지식 전이를 입증했습니다.

•

향후 연구에서는 더욱 복잡하고 다양한 환경에서의 일반화 능력 향상 및 실시간 지속 학습 기능 강화 등을 고려할 수 있습니다.

PDF 보기

Made with Slashpage