Cet article démontre que le contrôle parfait des hallucinations est mathématiquement impossible dans les modèles de langage à grande échelle (MLH). Aucun mécanisme d'inférence LMH ne permet simultanément de générer des réponses véridiques, de préserver l'information sémantique, de divulguer des connaissances pertinentes et d'optimiser les contraintes de connaissances. Cette impossibilité n'est pas une limitation technique, mais un problème fondamental découlant de la structure mathématique de l'agrégation d'informations elle-même. En utilisant trois cadres mathématiques – la théorie des enchères, la théorie du score approprié pour la prédiction probabiliste et l'analyse exponentielle log-somme pour les architectures Transformer – nous montrons que l'agrégation d'informations viole inévitablement le principe de préservation. L'écart de Jensen de l'agrégation de probabilités Transformer est une mesure directe de cette impossibilité. Ces résultats redéfinissent l'hallucination comme une caractéristique mathématique inévitable de l'intelligence distribuée, et non comme une erreur technique. Il existe un compromis fondamental entre la véracité, l'utilisation des connaissances et l'exhaustivité des réponses, et ils fournissent une base de principe pour gérer les hallucinations plutôt que pour les éliminer. Cette étude révèle des liens profonds entre les résultats classiques de l’inférence des réseaux neuronaux, la philosophie de la connaissance et de l’inférence, la théorie des jeux et la théorie de l’information, et suggère de nouvelles directions de recherche pour développer des systèmes d’IA bénéfiques dans le cadre de contraintes mathématiques.
