본 논문은 자연 지능에 대한 기본 원리 설명을 바탕으로 확장 가능한 정렬된 인공 지능(AI) 개발을 위한 로드맵을 제시합니다. 확장 가능한 정렬된 AI를 향한 가능한 경로는 인공 에이전트가 우리의 선호도를 포함한 세계에 대한 좋은 모델을 학습할 수 있도록 하는 데 있습니다. 이를 위해 주요 목표는 세계와 다른 에이전트의 세계 모델을 나타내는 법을 학습하는 에이전트를 만드는 것으로, 이는 구조 학습(일명 인과 표현 학습 또는 모델 발견)에 속하는 문제입니다. 본 논문에서는 이러한 목표를 염두에 두고 구조 학습 및 정렬 문제와 함께 우리를 앞으로 이끌 원칙들을 제시하며, 수학, 통계 및 인지 과학 전반의 다양한 아이디어를 종합합니다. 1) 핵심 지식, 정보 기하학 및 모델 축소가 구조 학습에서 하는 필수적인 역할을 논의하고, 광범위한 자연 세계를 학습하기 위한 핵심 구조 모듈을 제안합니다. 2) 구조 학습과 마음 이론을 통해 정렬된 에이전트를 향한 방법을 개략적으로 설명합니다. 예시로, 다른 에이전트의 불행을 최소화하기 위해 신중하게 행동하도록 규정하는 아시모프의 로봇 공학 3원칙을 수학적으로 개략적으로 설명합니다. 또한, 정렬에 대한 개선된 접근 방식을 제안하여 이 예시를 보완합니다. 이러한 관찰은 기존의 정렬된 구조 학습 시스템을 확장하거나 새로운 시스템을 설계하는 데 도움이 되는 인공 지능 개발을 위한 지침이 될 수 있습니다.
