Nghiên cứu này đề xuất một khuôn khổ để tinh chỉnh mô hình ngôn ngữ quy mô lớn (LLM) sử dụng quyền riêng tư vi sai (DP) để thực hiện phát hiện nhiều bất thường trong văn bản báo cáo X quang. Bằng cách đưa nhiễu bù vào trong quá trình tinh chỉnh, chúng tôi mong muốn giảm thiểu rủi ro quyền riêng tư liên quan đến dữ liệu bệnh nhân nhạy cảm và ngăn ngừa rò rỉ dữ liệu trong khi vẫn duy trì hiệu suất phân loại. Sử dụng bộ dữ liệu MIMIC-CXR và CT-RATE (50.232 báo cáo được thu thập từ năm 2011 đến năm 2019), chúng tôi đã tinh chỉnh ba kiến trúc mô hình: BERT-trung bình, BERT-nhỏ và ALBERT-cơ sở bằng cách sử dụng phương pháp điều chỉnh thứ hạng thấp quyền riêng tư vi sai (DP-LoRA). Chúng tôi đã đánh giá hiệu suất mô hình trong các mức ngân sách quyền riêng tư khác nhau (0,01, 0,1, 1,0 và 10,0) bằng cách sử dụng điểm F1 có trọng số để phân tích định lượng sự đánh đổi giữa quyền riêng tư và tiện ích.
