Cette page résume et organise les publications en intelligence artificielle du monde entier. Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif. Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.
RCR-Router : routage contextuel efficace et sensible aux rôles pour les systèmes LLM multi-agents avec mémoire structurée
Created by
Haebom
Auteur
Jun Liu, Zhenglun Kong, Changdi Yang, Fan Yang, Tianqi Li, Peiyan Dong, Joannah Nanjekye, Hao Tang, Geng Yuan, Wei Niu, Wenbin Zhang, Pu Zhao, Xue Lin, Dong Huang, Yanzhi Wang
Contour
Cet article propose RCR-Router, un nouveau framework de routage pour une collaboration efficace dans les systèmes multi-agents à modèle de langage à grande échelle (LLM). Pour surmonter les limites des stratégies de routage statiques ou à contexte complet existantes, RCR-Router adopte une approche modulaire et sensible aux rôles qui sélectionne dynamiquement des sous-ensembles de mémoire sémantiquement pertinents en fonction du rôle et de l'étape de la tâche de chaque agent. Ceci est réalisé tout en respectant un budget de jetons strict. Une politique de notation légère guide la sélection de la mémoire, et les sorties des agents sont fusionnées de manière itérative dans une mémoire partagée, permettant un affinement contextuel incrémental. De plus, nous présentons la mesure du score de qualité des réponses, qui capture les explications générées par le LLM, afin de mieux évaluer les performances du modèle. Les résultats expérimentaux de trois benchmarks d'assurance qualité multi-sauts – HotPotQA, MuSiQue et 2WikiMultihop – montrent que RCR-Router maintient ou améliore la qualité des réponses tout en réduisant l'utilisation de jetons jusqu'à 30 %.
Takeaways, Limitations_
•
Takeaways:
◦
Nous présentons RCR-Router, un nouveau framework de routage pour une collaboration efficace dans les systèmes LLM multi-agents.
◦
Le routage de mémoire dynamique et sensible aux rôles réduit l'utilisation des jetons et maintient ou améliore la qualité de la réponse.
◦
Améliorer la méthode d'évaluation en proposant un indicateur de score de qualité des réponses prenant en compte la description de création du LLM.
◦
Soulignez l’importance du routage de la mémoire structurée et de l’évaluation tenant compte des sorties.
•
Limitations:
◦
Les performances du routeur RCR proposé reposent sur des résultats expérimentaux limités à un benchmark spécifique. Des expériences complémentaires sur diverses tâches et jeux de données sont nécessaires.
◦
Des recherches supplémentaires sont nécessaires pour déterminer la généralisabilité et l’objectivité de l’indicateur de score de qualité des réponses.
◦
Manque d'explication détaillée de la conception et de l'optimisation de la politique de notation légère.
