Este artículo investiga cómo la estimación de la incertidumbre puede utilizarse para mejorar la seguridad y la fiabilidad de los sistemas de aprendizaje automático (ML), cada vez más utilizados en dominios de alto riesgo y de confianza crítica. En particular, nos centramos en la predicción selectiva, donde los modelos se abstienen de realizar predicciones cuando la confianza es baja. En primer lugar, demostramos que la ruta de entrenamiento del modelo contiene abundantes señales de incertidumbre que pueden aprovecharse sin alterar la arquitectura ni generar pérdidas. Al agrupar las predicciones de los puntos de control intermedios, proponemos un método ligero de abstención post-hoc que funciona en diversas tareas, evita el coste de los conjuntos profundos y logra un rendimiento de predicción selectiva de vanguardia. Cabe destacar que este método es totalmente compatible con la privacidad diferencial (PD), lo que nos permite estudiar cómo el ruido de la privacidad afecta la calidad de la incertidumbre. Si bien muchos métodos se degradan con la PD, nuestro enfoque basado en rutas es robusto e introduce un marco para el equilibrio entre privacidad e incertidumbre desacoplados. A continuación, desarrollamos una descomposición de muestras finitas de la brecha de clasificación selectiva (la desviación de la curva de ajuste de precisión del oráculo) para identificar cinco fuentes de error interpretables y aclarar las intervenciones que pueden reducirla. Esto explica por qué la calibración por sí sola no puede corregir errores de clasificación y sugiere un método para mejorar las clasificaciones de incertidumbre. Finalmente, demostramos que la manipulación adversaria de las señales de incertidumbre puede ocultar errores o denegar el servicio manteniendo una alta precisión, y diseñamos un mecanismo de defensa que combina la auditoría de calibración y la inferencia verificable. Estas contribuciones impulsan un aprendizaje automático fiable al mejorar, evaluar y proteger las estimaciones de incertidumbre, lo que permite modelos que no solo realizan predicciones precisas, sino que también saben cuándo decir "No lo sé".
