Bài báo này nghiên cứu cách đạt được đồng thời hai đặc tính rất mong muốn trong các mô hình học máy hiện đại: tính mạnh mẽ và hiệu quả tài nguyên. Chúng tôi chứng minh rằng tốc độ học cao giúp đạt được cả tính mạnh mẽ chống lại các tương quan giả và tính nhỏ gọn của mạng. Chúng tôi chứng minh rằng tốc độ học cao mang lại các đặc tính biểu diễn mong muốn, chẳng hạn như sử dụng đặc trưng bất biến, khả năng phân tách lớp và độ thưa thớt kích hoạt, và chúng nhất quán hơn trong việc đáp ứng các đặc tính này so với các siêu tham số và phương pháp chính quy hóa khác. Ngoài việc chứng minh những tác động tích cực của tốc độ học cao trên nhiều tập dữ liệu, mô hình và bộ tối ưu hóa tương quan giả, chúng tôi cung cấp bằng chứng mạnh mẽ cho thấy sự thành công của tốc độ học cao trên các tác vụ phân loại tiêu chuẩn có thể là do hiệu quả của chúng trong việc chống lại các tương quan giả ẩn/hiếm trong tập dữ liệu huấn luyện.
