Cet article présente un théorème d'impossibilité fondamental, affirmant qu'un modèle de langage à grande échelle (MLL) capable de traiter des ensembles de connaissances non évidents ne peut simultanément assurer une représentation fidèle des connaissances, la préservation de l'information sémantique, la divulgation complète des connaissances pertinentes et l'optimisation sous contrainte de connaissances. Cette impossibilité ne résulte pas d'une limitation technique, mais de la structure mathématique de l'ensemble d'informations lui-même. L'article le démontre en décrivant le processus d'inférence comme une vente aux enchères d'idées entre des composants distribués en compétition pour former des réponses utilisant des connaissances partielles. La preuve couvre trois domaines mathématiques indépendants : la théorie de la conception des mécanismes (Green-Laffont), la théorie des règles de notation appropriées (Savage) et l'analyse structurelle directe des transformateurs (convexité Log-Sum-Exp). Plus précisément, nous montrons comment quantifier la génération de réponses trop confiantes ou intuitives (caractéristiques des hallucinations, de la créativité ou de l'imagination). Pour étayer cette analyse, nous introduisons des concepts complémentaires de mesures d'information sémantique et d'opérateurs d'émergence pour modéliser l'inférence sous contrainte dans des contextes généraux. Nous démontrons que si l'inférence contrainte génère des informations accessibles, sources d'inspiration et d'éclairage précieux, l'inférence sans contrainte, idéalement, préserve strictement le contenu sémantique. En démontrant que les hallucinations et l'imagination sont des phénomènes mathématiquement équivalents, compte tenu de leurs écarts par rapport à la véracité, à la préservation de l'information sémantique, à la divulgation pertinente des connaissances et à l'optimisation contrainte par les connaissances, nous fournissons une base de principe pour la gestion de ces comportements dans les systèmes d'IA avancés. Enfin, nous proposons quelques pistes de réflexion pour évaluer et améliorer la théorie proposée.
