본 논문은 비중요한 지식 집계를 수행할 수 있는 어떤 대규모 언어 모델(LLM)도 진실된(내부적으로 일관된) 지식 표현, 의미 정보 보존, 관련 지식의 완전한 공개, 그리고 지식 제약 최적성을 동시에 달성할 수 없다는 근본적인 불가능성 정리를 제시합니다. 이 불가능성은 공학적 한계가 아니라 정보 집계 자체의 수학적 구조에서 비롯됩니다. 분산된 구성 요소들이 부분적인 지식을 활용하여 응답을 형성하기 위해 경쟁하는 아이디어 경매로 추론 과정을 설명함으로써 이 결과를 확립합니다. 증명은 메커니즘 디자인 이론(Green-Laffont), 적절한 점수 매기기 규칙 이론(Savage), 그리고 트랜스포머의 직접적인 아키텍처 분석(Log-Sum-Exp 볼록성) 등 세 가지 독립적인 수학적 영역에 걸쳐 있습니다. 특히, 엄격하게 오목한 설정에서 다양한 신념의 집계 점수가 개별 점수의 합을 엄격하게 초과함을 보여줍니다. 그 차이는 귀속할 수 없는 확실성 또는 과신의 생성, 즉 환각과 창의성 또는 상상력의 수학적 기원을 정량화할 수 있습니다. 이 분석을 뒷받침하기 위해 일반적인 설정에서 경계된 추론을 모델링하기 위해 의미 정보 측정 및 출현 연산자의 보완적인 개념을 도입합니다. 경계된 추론은 유용한 통찰력과 영감을 제공하는 접근 가능한 정보를 생성하지만 이상적인 추론은 의미 내용을 엄격하게 보존함을 증명합니다. 환각과 상상력이 정보 보존의 필수적인 위반에 근거한 수학적으로 동일한 현상임을 보여줌으로써, 본 논문은 고급 AI 시스템에서 이러한 행동을 관리하기 위한 원칙적인 기반을 제공합니다. 마지막으로 제안된 이론의 평가와 개선을 위한 몇 가지 추측적인 아이디어를 제시합니다.
