Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Requirements for Aligned, Dynamic Resolution of Conflicts in Operational Constraints

Created by
  • Haebom
Category
Empty

저자

Steven J. Jones, Robert E. Wray, John E. Laird

개요

자율 AI 시스템은 새로운 환경이나 불완전하게 정의된 환경에서 여러 가능한 행동 경로를 평가해야 합니다. 이러한 시스템은 훈련을 받았음에도 불구하고, 모든 운영 제약 조건을 완전히 충족하는 행동 경로가 없는 시나리오에 직면할 수 있습니다. 인간의 기대와 가치에 따라 목표를 달성하기 위해 에이전트는 훈련된 정책을 넘어 후보 행동 경로를 구축, 평가 및 정당화해야 합니다. 이러한 과정에는 사전 정책 훈련 범위를 벗어나는 상황적 "지식"이 필요합니다. 본 논문은 이러한 환경에서 에이전트 의사 결정에 필요한 사항을 설명하고, 에이전트의 목표에 강력하고 인간의 기대에 부합하는 결정을 내리는 데 필요한 지식 유형을 식별합니다. 분석과 실제 사례 연구를 통해, 복잡한 실제 환경에서 보다 일치된 행동 경로를 선택하고 추구하기 위해 에이전트가 규범적, 실용적, 상황적 이해를 어떻게 통합해야 하는지 조사합니다.

시사점, 한계점

자율 AI 시스템이 인간의 기대와 가치에 부합하는 결정을 내리기 위해, 훈련된 정책을 넘어 후보 행동 경로를 구축하고 평가하는 능력이 필요함.
에이전트가 의사 결정을 위해 필요한 지식 유형(규범적, 실용적, 상황적 이해 등)을 식별함.
복잡한 실제 환경에서 에이전트가 이러한 지식을 통합하는 방법을 분석함.
구체적인 한계점은 논문 내용에 명시되지 않았음. (논문 요약만 제공되었기 때문)
👍