본 논문은 로봇 제어에서 고수준 작업 계획자와 저수준 정책 간의 통신을 위한 잘 정의된 인터페이스 계층의 필요성 문제를 해결하기 위해, 대규모 언어 모델(LLM)을 인터페이스 계층으로 활용하는 방식의 한계를 극복하는 새로운 방법인 Learnable Latent Codes as Bridges (LCB)를 제안한다. 기존의 LLM 기반 접근 방식은 자연어로 쉽게 표현할 수 없는 작업(예: 춤 동작)이나 도메인 이동 및 catastrophic forgetting 문제로 인해 전이 학습이 어렵다는 한계를 지닌다. LCB는 학습 가능한 잠재 코드를 LLM과 저수준 정책 간의 브리지로 사용하여 LLM이 언어적 제약 없이 유연하게 목표를 전달하고, 전이 학습 과정에서 사전 학습된 단어 토큰의 임베딩 공간을 파괴하지 않고 전이 학습을 가능하게 한다. Language Table 및 Calvin 벤치마크를 통해, LCB가 순수 언어를 인터페이스 계층으로 사용하는 기존 방식(GPT-4V 포함)보다 추론 및 다단계 동작을 필요로 하는 작업에서 우수한 성능을 보임을 실험적으로 확인하였다.
