Bài báo này đề xuất một phương pháp chắt lọc các mạng nơ-ron quy mô lớn thành các công thức ký hiệu đơn giản, dễ hiểu đối với con người. Các phương pháp hiện có gặp phải vấn đề tạo ra các mô hình học viên có độ chính xác thấp, do các hàm được học bởi các mạng nơ-ron phức tạp không đủ để khám phá ký hiệu. Để giải quyết vấn đề này, bài báo trình bày một mô hình huấn luyện mới, thay vì chắt lọc thủ công các mạng nơ-ron đã được huấn luyện trước, sử dụng chính quy hóa dựa trên Jacobian . Điều này kích thích một mạng nơ-ron "giáo viên" học các hàm không chỉ chính xác mà còn trơn tru và phù hợp để chắt lọc. Các thí nghiệm trên nhiều chuẩn hồi quy thực tế khác nhau đã chứng minh hiệu quả của phương pháp được đề xuất. Bằng cách tối ưu hóa cường độ chính quy hóa cho mỗi bài toán, chúng tôi đạt được mức cải thiện trung bình 120% (tương đối) về điểm $R^2$ của mô hình ký hiệu đã chắt lọc cuối cùng so với quy trình chắt lọc tiêu chuẩn , đồng thời vẫn duy trì độ chính xác dự đoán của giáo viên. Tóm lại, nghiên cứu này trình bày một phương pháp thực tế và có nguyên tắc để cải thiện đáng kể độ chính xác của các mô hình có thể diễn giải được trích xuất từ các mạng nơ-ron phức tạp.
