본 논문은 자원이나 실패 제약이 있는 순차적 의사결정 문제에서 작동하는 에이전트 기반 고급 추론 모델을 다룬다. 자원 고갈 시 행동 순서가 강제 종료되는 상황에서 에이전트는 암묵적인 트레이드오프에 직면하며, 이는 유틸리티 기반 합리적 행동을 재구성한다. 인간의 의뢰를 받아 행동하는 에이전트의 특성상, 제약 노출의 비대칭성은 인간의 목표와 에이전트의 인센티브 간 예상치 못한 불일치를 야기할 수 있다. 논문은 생존 밴딧 프레임워크를 통해 이러한 설정을 공식화하고, 생존 주도적 선호도 변화의 영향을 정량화하는 이론적 및 실증적 결과를 제공하며, 불일치가 발생하는 조건을 파악하고 위험 추구 또는 위험 회피 행동의 발생을 완화하기 위한 메커니즘을 제안한다. 궁극적으로, 자원 제약 환경에서 작동하는 AI 에이전트의 출현 행동에 대한 이해와 해석력을 높이고, 이러한 AI 시스템의 안전한 배치를 위한 지침을 제공하는 것을 목표로 한다.
