Dans cet article, nous proposons une nouvelle technique d'explicabilité, SMILE, pour résoudre le problème de la « boîte noire » de la compréhension du processus décisionnel des modèles linguistiques à grande échelle (MLE). Indépendant du modèle, SMILE mesure la variation de la sortie en modifiant légèrement l'entrée et explique le processus de réponse des MLE en mettant en évidence les mots les plus influents sur la sortie. Il génère une carte thermique visuelle simple indiquant les parties les plus importantes de l'invite et vérifie la fiabilité de SMILE grâce à des indicateurs tels que l'exactitude, la cohérence, la stabilité et la fidélité. Il devrait contribuer à améliorer la transparence et la fiabilité de l'IA.
