Language-Grounded Hierarchical Planning and Execution with Multi-Robot 3D Scene Graphs
Created by
Haebom
저자
Jared Strader, Aaron Ray, Jacob Arkin, Mason B. Peterson, Yun Chang, Nathan Hughes, Christopher Bradley, Yi Xuan Jia, Carlos Nieto-Granda, Rajat Talak, Chuchu Fan, Luca Carlone, Jonathan P. How, Nicholas Roy
개요
자연어로 표현된 복잡한 명령을 수행하기 위해 3D 장면 그래프를 이용한 매핑, 위치 추정, 작업 및 동작 계획(TAMP)을 통합하는 다중 로봇 시스템을 제시한다. 본 시스템은 개방형 객체 기반 지도를 통합한 공유 3D 장면 그래프를 구축하며, 이는 다중 로봇 3D 장면 그래프 융합에 활용된다. 이러한 표현은 실시간, 뷰 불변 재위치 추정(객체 기반 지도를 통해)과 계획(3D 장면 그래프를 통해)을 지원하여 로봇 팀이 주변 환경을 추론하고 복잡한 작업을 수행할 수 있도록 한다. 또한, 공유 3D 장면 그래프 및 로봇 기능의 맥락을 활용하여 대규모 언어 모델(LLM)을 이용하여 운영자 의도를 계획 도메인 정의 언어(PDDL) 목표로 변환하는 계획 접근 방식을 제시한다. 대규모 실외 환경에서 실제 작업에 대한 시스템 성능의 실험적 평가를 제공한다. 보충 비디오는 https://youtu.be/8xbGGOLfLAY 에서 확인할 수 있다.
시사점, 한계점
•
시사점:
◦
자연어 명령을 이해하고 실행하는 다중 로봇 시스템의 구현으로 복잡한 작업 수행 가능성을 보여줌.
◦
3D 장면 그래프 기반의 공유 지도 및 계획으로 실시간, 뷰 불변 재위치 추정 및 계획 지원.