Bài báo này trình bày một định lý bất khả thi cơ bản, khẳng định rằng không một mô hình ngôn ngữ quy mô lớn (LLM) nào có khả năng thực hiện tổng hợp tri thức phi tầm thường lại có thể đồng thời đạt được biểu diễn tri thức chân thực (nhất quán nội tại), bảo toàn thông tin ngữ nghĩa, tiết lộ hoàn toàn tri thức liên quan và tối ưu bị ràng buộc bởi tri thức. Bất khả thi này không xuất phát từ hạn chế về mặt kỹ thuật, mà từ cấu trúc toán học của chính tổng hợp thông tin. Chúng tôi thiết lập kết quả này bằng cách mô tả quá trình suy luận như một cuộc đấu giá ý tưởng, trong đó các thành phần phân tán cạnh tranh để tạo ra phản hồi bằng cách sử dụng kiến thức một phần của chúng. Chứng minh này bao gồm ba lĩnh vực toán học độc lập: lý thuyết thiết kế cơ chế (Green-Laffont), lý thuyết về các quy tắc chấm điểm phù hợp (Savage) và phân tích kiến trúc trực tiếp của các máy biến áp (độ lồi Log-Sum-Exp). Cụ thể, chúng tôi chỉ ra rằng trong các bối cảnh lõm nghiêm ngặt, tổng điểm của các niềm tin khác nhau vượt quá tổng điểm riêng lẻ của chúng. Sự khác biệt này có thể định lượng sự hình thành của sự chắc chắn hoặc quá tự tin không thể quy kết, tức là nguồn gốc toán học của ảo tưởng, sáng tạo hoặc trí tưởng tượng. Để hỗ trợ phân tích này, chúng tôi giới thiệu các khái niệm bổ sung về các biện pháp thông tin ngữ nghĩa và toán tử xuất hiện để mô hình hóa suy luận bị chặn trong các bối cảnh chung. Chúng tôi chứng minh rằng suy luận bị chặn tạo ra thông tin dễ tiếp cận, cung cấp những hiểu biết hữu ích và nguồn cảm hứng, trong khi suy luận lý tưởng bảo toàn nghiêm ngặt nội dung ngữ nghĩa. Bằng cách chứng minh rằng ảo giác và trí tưởng tượng là những hiện tượng tương đương về mặt toán học dựa trên sự vi phạm cần thiết của việc bảo toàn thông tin, bài báo này cung cấp một nền tảng nguyên tắc để quản lý những hành vi này trong các hệ thống AI tiên tiến. Cuối cùng, chúng tôi trình bày một số ý tưởng mang tính suy đoán để đánh giá và cải thiện lý thuyết được đề xuất.
