Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Uncertainty in Action: Confidence Elicitation in Embodied Agents

Created by
  • Haebom
Category
Empty

저자

Tianjiao Yu, Vedant Shah, Muntasir Wahed, Kiet A. Nguyen, Adheesh Juvekar, Tal August, Ismini Lourentzou

개요

본 논문은 동적인 다중 모드 환경에서 움직이는 구현체 에이전트가 자신감을 표현하는 어려움을 다룬다. 이러한 어려움은 인지 및 의사결정 과정에서 발생하는 불확실성으로 인해 발생한다. 본 논문은 열린 다중 모드 환경에서 구현체 자신감 유도를 조사한 최초의 연구이며, 유도적, 연역적, 귀납적 추론에 걸쳐 자신감 평가를 구조화하는 유도 정책(Elicitation Policies)과 시나리오 재해석, 행동 샘플링, 가정적 추론을 통해 자신감 보정을 향상시키는 실행 정책(Execution Policies)을 제시한다. Minecraft 환경 내에서 보정 및 실패 예측 작업을 통해 에이전트를 평가하여, 사고 과정(Chain-of-Thoughts)과 같은 구조화된 추론 접근 방식이 자신감 보정을 향상시킨다는 것을 보여준다. 그러나 귀납적 설정 하에서 특히 불확실성을 구별하는 데 지속적인 어려움이 있음을 밝히며, 더욱 정교한 구현체 자신감 유도 방법의 필요성을 강조한다.

시사점, 한계점

시사점: 사고 과정(Chain-of-Thoughts)과 같은 구조화된 추론 접근 방식이 구현체 에이전트의 자신감 보정을 향상시킨다는 것을 실험적으로 보여줌. 유도 정책과 실행 정책을 통해 다중 모드 환경에서의 자신감 유도 문제를 체계적으로 접근하는 새로운 방법 제시.
한계점: 귀납적 설정에서 불확실성을 구별하는 데 어려움이 지속적으로 존재함. 더욱 정교한 구현체 자신감 유도 방법 개발의 필요성 제기. Minecraft 환경에서의 평가 결과가 다른 환경으로 일반화될 수 있는지에 대한 추가 연구 필요.
👍