Este artículo presenta una hoja de ruta para el desarrollo de una inteligencia artificial (IA) escalable y alineada, basada en una explicación de los principios fundamentales de la inteligencia natural. Un posible camino hacia una IA escalable y alineada reside en permitir que los agentes artificiales aprendan buenos modelos del mundo, incluyendo nuestras preferencias. Para lograrlo, un objetivo clave es crear agentes que aprendan a representar el mundo y los modelos de mundo de otros agentes, un problema conocido como aprendizaje estructurado (también conocido como aprendizaje de representación causal o descubrimiento de modelos). Con este objetivo en mente, este artículo presenta los principios que nos guiarán en el futuro, junto con los problemas de aprendizaje estructurado y alineación, sintetizando diversas ideas provenientes de las matemáticas, la estadística y las ciencias cognitivas. 1) Analizamos los roles esenciales del conocimiento básico, la geometría de la información y la reducción de modelos en el aprendizaje estructurado y proponemos un módulo estructural central para el aprendizaje de una amplia gama de mundos naturales. 2) Esbozamos un camino hacia agentes alineados a través del aprendizaje estructurado y la teoría de la mente. Como ejemplo, describimos matemáticamente las Tres Leyes de la Robótica de Asimov, que prescriben a los agentes actuar con prudencia para minimizar las consecuencias negativas de otros agentes. También complementamos este ejemplo proponiendo un enfoque mejorado para la alineación. Estas observaciones pueden servir como guía para el desarrollo de inteligencia artificial que ayude a ampliar los sistemas de aprendizaje de estructuras alineadas existentes o a diseñar nuevos.
