Cette page résume et organise les publications en intelligence artificielle du monde entier. Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif. Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.
RCR-Router : routage contextuel efficace et sensible aux rôles pour les systèmes LLM multi-agents avec mémoire structurée
Created by
Haebom
Auteur
Jun Liu, Zhenglun Kong, Changdi Yang, Fan Yang, Tianqi Li, Peiyan Dong, Joannah Nanjekye, Hao Tang, Geng Yuan, Wei Niu, Wenbin Zhang, Pu Zhao, Xue Lin, Dong Huang, Yanzhi Wang
Contour
Cet article propose RCR-Router, un nouveau framework de routage pour une collaboration efficace dans les systèmes multi-agents à modèles de langage à grande échelle (LLM). Pour surmonter les limites des stratégies de routage contextuelles statiques ou globales existantes (consommation excessive de jetons, exposition mémoire inutile et manque d'adaptabilité entre les cycles d'interaction), RCR-Router adopte une approche modulaire et sensible aux rôles qui sélectionne dynamiquement des sous-ensembles de mémoire sémantiquement pertinents en fonction du rôle et de l'étape de la tâche de chaque agent. Une politique de notation légère guide la sélection de la mémoire, et les sorties des agents sont fusionnées de manière itérative dans une mémoire partagée afin d'améliorer progressivement le contexte. De plus, nous proposons la mesure du score de qualité des réponses, qui capture les explications générées par les LLM au-delà de la précision standard de l'assurance qualité, afin de mieux évaluer le comportement du modèle. Les résultats expérimentaux de trois tests d'assurance qualité multi-sauts (HotPotQA, MuSiQue et 2WikiMultihop) démontrent que RCR-Router maintient ou améliore la qualité des réponses tout en réduisant l'utilisation de jetons jusqu'à 30 %.
Takeaways, Limitations_
•
Takeaways:
◦
Une nouvelle approche pour une collaboration efficace dans les systèmes LLM multi-agents (RCR-Router).
◦
Réduire l'utilisation des jetons et améliorer la qualité des réponses grâce à la connaissance des rôles et au cheminement dynamique de la mémoire.
◦
Proposer une nouvelle métrique (Answer Quality Score) pour l'évaluation qualitative des explications de création de LLM.
◦
Souligne l’importance d’établir des chemins de mémoire structurés et d’évaluer la reconnaissance des sorties.
•
Limitations:
◦
Des recherches supplémentaires sont nécessaires pour déterminer la généralisabilité et l’objectivité de l’indicateur de score de qualité des réponses proposé.
◦
La validation des performances de généralisation de RCR-Router pour différents types de tâches LLM multi-agents est nécessaire.
◦
Il est nécessaire d’évaluer l’évolutivité du RCR-Router et sa stabilité pour des scénarios d’interaction complexes.
