Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Formation avec explications seules : un nouveau paradigme pour éviter l'apprentissage par raccourcis

Created by
  • Haebom

Auteur

Pedro RAS Bassi, Haydr AH Ali, Andrea Cavalli, Sergio Decherchi

Contour

Cet article propose l'apprentissage par explications seules (TEA), un nouveau paradigme d'apprentissage, pour résoudre le problème de l'apprentissage par raccourcis, qui freine l'application de l'intelligence artificielle (IA) dans des domaines critiques comme la santé. TEA entraîne un classificateur (un modèle d'élève TEA) en utilisant la carte thermique d'explication d'un modèle d'enseignant comme carte thermique cible. Cela garantit que le modèle d'élève TEA se concentre sur les mêmes caractéristiques d'image que le modèle d'enseignant. De plus, si le modèle d'enseignant est entraîné à ignorer le biais d'arrière-plan, par exemple en supprimant l'arrière-plan, le modèle d'élève est également entraîné à ignorer le biais d'arrière-plan. En utilisant plusieurs modèles d'enseignant, le modèle d'élève peut être entraîné à être très résistant au biais de premier plan et, étonnamment, il peut obtenir des résultats cohérents avec la sortie du modèle d'enseignant sans appliquer de fonction de perte à la sortie du modèle d'élève. En comparant avec 14 méthodes de pointe sur cinq ensembles de données avec un fort biais d'arrière-plan ou de premier plan (y compris les ensembles de données Waterbirds et Xline pour la classification COVID-19/pneumonie), le modèle étudiant TEA démontre une excellente résistance aux biais, surpasse les méthodes de pointe et se généralise bien aux données hospitalières non formées.

Takeaways, Limitations

Takeaways:
Une nouvelle approche pour résoudre le problème d’apprentissage par raccourcis dans l’IA médicale.
Suggérant la possibilité de développer des modèles d’IA avec une forte résistance aux biais d’arrière-plan et de premier plan.
Contribuer au développement de la technologie d'IA explicable (XAI)
Efficacité accrue des données en permettant l'apprentissage en utilisant uniquement la carte thermique explicative du modèle enseignant.
Amélioration des performances de généralisation pour diverses données hospitalières
Limitations:
L’efficacité de la méthode proposée peut être limitée à des ensembles de données spécifiques.
Il y a des aspects qui dépendent de la performance du modèle enseignant.
La vérification des performances de généralisation est nécessaire pour les données d’images médicales complexes.
Des recherches supplémentaires sont nécessaires pour déterminer son applicabilité dans des contextes cliniques réels.
👍