Este artículo enfatiza la importancia de entrenar modelos de aprendizaje automático para comprender claramente los factores que definen cada clase. Estudios previos se han centrado en identificar correlaciones espurias en conjuntos de datos basándose únicamente en datos o análisis de errores, pero no han logrado detectar correlaciones espurias aprendidas por modelos que no son reveladas por contraejemplos en los conjuntos de validación o entrenamiento. Para superar estas limitaciones, este artículo propone WASP (Enfoque de espacio de peso para detectar espuriedad), un método novedoso que analiza los pesos del modelo, el mecanismo de toma de decisiones, en lugar de analizar las predicciones del modelo. WASP analiza cómo los pesos del modelo base cambian en una dirección que captura varias correlaciones (espurias) durante el ajuste fino en un conjunto de datos específico. A diferencia de estudios previos, WASP (i) expone correlaciones espurias en conjuntos de datos que no son reveladas por contraejemplos de entrenamiento o validación, (ii) funciona en varias modalidades, como imágenes y texto, y (iii) demuestra su capacidad para detectar correlaciones espurias previamente desconocidas aprendidas por el clasificador ImageNet-1k.
