Bài báo này cung cấp một phân tích cơ học về cách thức quá trình hậu huấn luyện, yếu tố thiết yếu để chuyển đổi mô hình ngôn ngữ quy mô lớn (LLM) được huấn luyện trước thành một mô hình hậu huấn luyện hữu ích và phù hợp hơn, tái cấu trúc cấu trúc bên trong của LLM. Chúng tôi so sánh và phân tích mô hình cơ sở và các mô hình hậu huấn luyện trên các họ mô hình và tập dữ liệu từ bốn góc độ: vị trí lưu trữ tri thức thực tế, biểu diễn tri thức, biểu diễn chân lý và bác bỏ, và mức độ tin cậy. Chúng tôi kết luận rằng: Thứ nhất, hậu huấn luyện phát triển các biểu diễn tri thức mới trong khi điều chỉnh các biểu diễn tri thức của mô hình cơ sở mà không làm thay đổi vị trí lưu trữ tri thức thực tế. Thứ hai, chân lý và bác bỏ có thể được biểu diễn dưới dạng các vectơ trong không gian biểu diễn ẩn, và hướng chân lý rất giống nhau giữa mô hình cơ sở và các mô hình hậu huấn luyện, và có thể chuyển giao hiệu quả sang các can thiệp. Thứ ba, hướng bác bỏ khác nhau giữa mô hình cơ sở và các mô hình hậu huấn luyện, cho thấy khả năng chuyển giao hạn chế. Thứ tư, sự khác biệt về độ tin cậy giữa mô hình cơ sở và các mô hình hậu huấn luyện không thể được quy cho các nơ-ron entropy. Nghiên cứu này cung cấp cái nhìn sâu sắc về các cơ chế cơ bản được duy trì và thay đổi trong quá trình đào tạo sau, tạo điều kiện cho công việc tiếp theo như điều chỉnh mô hình và có khả năng cung cấp thông tin cho các nghiên cứu trong tương lai về khả năng diễn giải và LLM sau đào tạo.
