Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

LRP4RAG : Détection d'hallucinations dans la génération augmentée par récupération via la propagation de pertinence par couche

Created by
  • Haebom

Auteur

Haichuan Hu, Congqing He, Xiaochen Xie, Quanjun Zhang

Contour

Dans cet article, nous proposons une nouvelle méthode, LRP4RAG, basée sur l'algorithme de propagation de pertinence par couches (LRP) pour résoudre le problème d'hallucination qui persiste dans la génération augmentée par récupération (RAG). LRP permet de calculer la pertinence entre l'entrée et la sortie du générateur RAG, puis d'extraire et de rééchantillonner les données pour alimenter plusieurs classificateurs afin de déterminer si la sortie contient une hallucination. Les résultats expérimentaux montrent que LRP4RAG surpasse les méthodes existantes et constitue la première tentative d'utilisation de LRP pour la détection d'hallucinations par RAG.

Takeaways, Limitations

•
Takeaways:
◦
Une nouvelle méthode est présentée qui applique efficacement l’algorithme LRP pour résoudre le problème d’hallucination RAG.
◦
Des performances de détection d'hallucinations améliorées ont été démontrées expérimentalement par rapport aux méthodes existantes.
◦
Contribue à améliorer la fiabilité des applications basées sur RAG.
•
Limitations:
◦
Les améliorations de performances de LRP4RAG peuvent être limitées à des ensembles de données ou des modèles spécifiques.
◦
Dégradation possible des performances en raison de la complexité de calcul de l'algorithme LRP lui-même.
◦
Des recherches supplémentaires sont nécessaires sur les performances de généralisation à travers différents types d’hallucinations.
👍
Made with Slashpage