X-Sim: Cross-Embodiment Learning via Real-to-Sim-to-Real
Created by
Haebom
저자
Prithwish Dan, Kushal Kedia, Angela Chao, Edward Weiyi Duan, Maximus Adrian Pace, Wei-Chiu Ma, Sanjiban Choudhury
개요
X-Sim은 사람의 동작을 모방하여 로봇 조작 정책을 학습하는 새로운 실제-시뮬레이션-실제(real-to-sim-to-real) 프레임워크입니다. 기존의 방법과 달리, 사람의 동작을 직접 매핑하는 대신 물체의 움직임을 밀집하고 전이 가능한 신호로 사용합니다. RGBD 영상으로부터 사실적인 시뮬레이션 환경을 재구성하고, 물체 궤적을 추적하여 물체 중심 보상을 정의합니다. 이 보상을 사용하여 강화 학습(RL) 정책을 시뮬레이션에서 학습하고, 다양한 시점과 조명으로 렌더링된 합성 롤아웃을 사용하여 이미지 조건부 확산 정책으로 증류합니다. 실제 환경으로 전이하기 위해 실시간 도메인 적응 기술을 도입하여 실제 및 시뮬레이션 관측값을 정렬합니다. 로봇 원격 조작 데이터 없이도 학습이 가능하며, 5가지 조작 작업에서 평균 30%의 성능 향상을 보였습니다.
시사점, 한계점
•
시사점:
◦
사람 동작 영상만으로 로봇 조작 정책 학습 가능: 로봇 원격 조작 데이터가 필요 없어 데이터 수집 시간을 크게 단축.
◦
물체 움직임을 중심으로 학습: 사람과 로봇의 차이에도 불구하고 효과적인 정책 학습 가능.
◦
실시간 도메인 적응 기술 적용: 실제 환경으로의 일반화 성능 향상.
◦
기존 방법 대비 성능 향상: 평균 30%의 작업 진행도 향상 및 행동 복제 방식 대비 10배 적은 데이터 수집 시간.
◦
새로운 카메라 시점 및 테스트 시간 변화에 대한 일반화 성능 우수.
•
한계점:
◦
RGBD 영상 데이터 의존: RGBD 센서가 필요하며, RGBD 데이터 품질에 성능 영향을 받을 수 있음.
◦
시뮬레이션 환경의 현실성에 대한 의존성: 시뮬레이션 환경과 실제 환경 간의 차이로 인한 성능 저하 가능성 존재.
◦
특정 유형의 조작 작업에 대한 성능 평가: 다양한 작업 유형에 대한 일반화 성능에 대한 추가적인 검증 필요.
