Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Raisonnement adaptatif dynamique via MCTS guidé par LLM pour un KGQA efficace et sensible au contexte

Created by
  • Haebom

Auteur

Yingxu Wang, Shiqi Fan, Mengzhu Wang, Siwei Liu

Contour

Cet article propose le raisonnement adaptatif dynamique basé sur MCTS (DAMR), un nouveau cadre pour la réponse aux questions sur les graphes de connaissances (KGQA). DAMR intègre la recherche symbolique basée sur la recherche arborescente de Monte Carlo (MCTS) à l'évaluation adaptative des chemins afin de pallier les limites des méthodes d'extraction de chemins statiques existantes, notamment leur adaptabilité limitée, leur coût de calcul élevé et leur faible précision d'évaluation. Il utilise un planificateur basé sur LLM pour réduire l'espace de recherche en sélectionnant les k relations les plus pertinentes à chaque étape, et introduit un scoreur léger basé sur Transformer pour encoder conjointement les séquences de questions et de relations afin d'effectuer une estimation de vraisemblance contextuelle. De plus, un mécanisme dynamique d'affinement des pseudo-chemins atténue le problème du manque de données de supervision de haute qualité. Les résultats expérimentaux obtenus sur divers benchmarks KGQA démontrent que DAMR surpasse largement les méthodes de pointe.

Takeaways, Limitations

Takeaways:
Nous proposons la possibilité d'effectuer un KGQA efficace et sensible au contexte en combinant des planificateurs basés sur MCTS et LLM.
Un scorer léger basé sur Transformer permet une évaluation précise du chemin et la capture de changements sémantiques subtils.
Atténuer le manque de données de supervision de haute qualité grâce à un mécanisme d’amélioration dynamique du chemin.
Atteindre des performances de pointe sur divers benchmarks KGQA.
Limitations:
Une forte dépendance aux planificateurs basés sur le LLM peut affecter les performances du LLM.
Les performances des mécanismes d’amélioration du chemin dynamique peuvent dépendre de la qualité des données de formation.
La complexité de calcul du MCTS peut encore être un problème pour les graphes de très grande taille.
Les performances sur un benchmark KGQA spécifique ne garantissent pas nécessairement la généralisabilité.
👍