Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Interpreting systems as solving POMDPs: a step towards a formal understanding of agency

Created by
  • Haebom

저자

Martin Biehl, Nathaniel Virgo

개요

본 논문은 시스템이 신념과 목표를 갖는다는 것을 어떤 상황에서 말할 수 있는지, 그리고 이러한 agency 관련 특징이 시스템의 물리적 상태와 어떻게 관련되는지를 다룹니다. 시스템의 상태를 외부 세계에 대한 신념을 나타내는 확률 분포에 매핑하는 해석 지도(interpretation map) 개념을 기반으로 합니다. 이 해석 지도는 베이즈 정리와 일관되게 시간에 따라 진화해야 하므로 시스템의 역학이 해석 가능성을 제한합니다. 논문에서는 신념뿐 아니라 목표와 행동 측면에서 해석 개념을 제안합니다. 부분적으로 관측 가능한 마르코프 과정(POMDP) 이론을 활용하여, 시스템이 숨겨진 POMDP 상태에 대한 신념을 설명하는 해석 지도를 가지고 있을 뿐만 아니라, 신념 상태에 따라 최적의 행동을 취한다면 POMDP의 해로 해석될 수 있다고 주장합니다. 따라서 에이전트는 시스템과 그 시스템을 POMDP 해로 해석한 것을 함께 의미합니다. POMDP가 목표를 갖는다는 것을 의미하는 유일한 공식화는 아니지만, 시스템이 에이전트인 것을 의미하는 보다 일반적인 형식적 정의를 향한 한 걸음을 나타냅니다.

시사점, 한계점

시사점:
시스템의 신념과 목표를 형식적으로 정의하기 위한 새로운 틀을 제시합니다.
POMDP 이론을 활용하여 시스템의 행동을 신념과 목표와 연결시키는 방법을 제시합니다.
에이전트를 시스템과 그 시스템의 해석으로 정의하는 새로운 관점을 제공합니다.
한계점:
POMDP는 목표를 갖는다는 것을 의미하는 유일한 공식화가 아니므로, 더 일반적인 정의가 필요할 수 있습니다.
해석 지도의 정확한 구성과 결정 방법에 대한 자세한 설명이 부족합니다.
제안된 틀이 실제 시스템에 어떻게 적용될 수 있는지에 대한 구체적인 예시가 부족합니다.
👍