Cet article présente une feuille de route pour le développement d'une intelligence artificielle (IA) évolutive et alignée, basée sur une explication des principes fondamentaux de l'intelligence naturelle. Une voie possible vers une IA évolutive et alignée consiste à permettre aux agents artificiels d'apprendre de bons modèles du monde, y compris nos préférences. Pour y parvenir, un objectif clé est de créer des agents capables d'apprendre à représenter le monde et les modèles du monde d'autres agents – un problème connu sous le nom d'apprentissage structuré (également appelé apprentissage par représentation causale ou découverte de modèles). Dans cette optique, cet article présente les principes qui nous guideront, ainsi que les problèmes d'apprentissage structuré et d'alignement, en synthétisant diverses idées issues des mathématiques, des statistiques et des sciences cognitives. 1) Nous abordons le rôle essentiel des connaissances fondamentales, de la géométrie de l'information et de la réduction de modèles dans l'apprentissage structuré, et proposons un module structurel fondamental pour l'apprentissage à partir d'un large éventail de mondes naturels. 2) Nous esquissons une voie vers des agents alignés grâce à l'apprentissage structuré et à la théorie de l'esprit. À titre d'exemple, nous exposons mathématiquement les trois lois de la robotique d'Asimov, qui recommandent aux agents d'agir avec prudence afin de minimiser les malheurs des autres agents. Nous complétons également cet exemple en proposant une approche améliorée de l'alignement. Ces observations peuvent servir de lignes directrices pour le développement d'une intelligence artificielle permettant d'étendre les systèmes d'apprentissage de structures alignées existants ou d'en concevoir de nouveaux.
