Bài báo này trình bày nghiên cứu thực nghiệm đầu tiên nhằm xác định liệu các quy luật tỷ lệ của mô hình ngôn ngữ quy mô lớn (LLM) có thể được áp dụng cho các mô hình dựa trên hồ sơ sức khỏe điện tử (EHR) hay không. Sử dụng dữ liệu chuỗi thời gian bệnh nhân từ cơ sở dữ liệu MIMIC-IV, chúng tôi đã huấn luyện các kiến trúc Transformer với nhiều kích thước mô hình và ngân sách tính toán khác nhau. Chúng tôi đã quan sát thấy các mô hình tỷ lệ nhất quán, bao gồm đường cong IsoFLOP bậc hai và mối quan hệ lũy thừa giữa tính toán, các tham số mô hình, kích thước dữ liệu và tiện ích lâm sàng. Điều này chứng minh rằng các mô hình EHR thể hiện hành vi tỷ lệ tương tự như LLM, cung cấp thông tin chi tiết mang tính dự đoán cho các chiến lược đào tạo hiệu quả về tài nguyên. Do đó, nghiên cứu này đặt nền tảng cho việc phát triển các mô hình dựa trên EHR mạnh mẽ có thể chuyển đổi các nhiệm vụ dự đoán lâm sàng và thúc đẩy y học cá nhân hóa.
