Este documento señala las limitaciones del desarrollo de algoritmos robustos existentes, que se basan en supuestos estructurales sin verificación empírica de cambios distribucionales específicos, y propone un enfoque basado en datos y con base empírica. Construimos un banco de pruebas empírico que comprende ocho conjuntos de datos tabulares, 172 pares de distribución, 45 métodos y 90,000 configuraciones de métodos para comparar y analizar las metodologías de Minimización de Riesgo Empírico (ERM) y Optimización Robusta Distribucional (DRO). Nuestro análisis revela que, a diferencia de los cambios X (covariables) típicamente discutidos en la literatura de ML existente, los cambios Y|X son los más comunes, y que los algoritmos robustos no superan a los métodos convencionales. Un análisis más profundo de la metodología DRO revela que los detalles de implementación, como la clase de modelo y la selección de hiperparámetros, tienen un mayor impacto en el rendimiento que los conjuntos de incertidumbre o los radios. Finalmente, demostramos a través de un estudio de caso que una comprensión inductiva y basada en datos de los cambios distribucionales puede proporcionar un enfoque novedoso para el desarrollo de algoritmos.
