Este artículo destaca el impacto de la precisión de predicción de los sistemas de IA y la fiabilidad de las estimaciones de confianza en la calidad de las decisiones en situaciones donde se utilizan entradas de IA para la toma de decisiones humanas. Resaltamos el papel de la sensibilidad metacognitiva de la IA (la capacidad de asignar puntuaciones de confianza que distinguen con precisión entre predicciones correctas e incorrectas) y presentamos un marco teórico para evaluar el impacto combinado de la precisión de predicción y la sensibilidad metacognitiva de la IA en entornos híbridos de toma de decisiones. Nuestro análisis identifica las condiciones bajo las cuales la IA con baja precisión de predicción pero alta sensibilidad metacognitiva puede mejorar la precisión general de la toma de decisiones humanas. Finalmente, los experimentos de comportamiento confirman que una mayor sensibilidad metacognitiva de la IA mejora el rendimiento de la toma de decisiones humanas. Estos resultados resaltan la importancia de evaluar el apoyo de la IA no solo para la precisión sino también para la sensibilidad metacognitiva, y optimizar ambos para lograr resultados superiores en la toma de decisiones.
