Robot-Powered Data Flywheels: Deploying Robots in the Wild for Continual Data Collection and Foundation Model Adaptation
Created by
Haebom
Category
Empty
저자
Jennifer Grannen, Michelle Pan, Kenneth Llontop, Cherie Ho, Mark Zolotas, Jeannette Bohg, Dorsa Sadigh
개요
본 논문은 Foundation Model (FM)의 한계를 극복하기 위해 로봇을 활용하여 실제 환경 데이터를 수집하고 이를 통해 FM을 개선하는 "Robot-Powered Data Flywheel" 프레임워크를 제시합니다. Scanford라는 모바일 조작 로봇을 활용하여 도서관에서 책을 스캔하고, 시각-언어 모델(VLM)을 사용하여 책을 식별하며, 라이브러리 카탈로그를 활용하여 데이터를 자동으로 라벨링합니다. 이 과정을 통해 얻은 데이터를 VLM에 적용하여 도메인 특정 성능 및 다국어 OCR 성능을 향상시켰습니다.