Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

EoH-S : Évolution des ensembles heuristiques utilisant des LLM pour la conception heuristique automatisée

Created by
  • Haebom

Auteur

Fei Liu, Yilu Liu, Qingfu Zhang, Xialiang Tong, Mingxuan Yuan

Contour

Cet article propose la conception automatique d'ensembles heuristiques (AHSD), une nouvelle méthode de génération automatique d'ensembles heuristiques complémentaires applicables à diverses instances de problèmes. Cette méthode vise à résoudre le problème de faible performance de généralisation causé par la génération d'une seule heuristique, Limitations, en conception automatique d'ensembles heuristiques (AHD) utilisant de grands modèles de langage (LLM). L'AHSD vise à générer un petit ensemble d'heuristiques complémentaires de sorte qu'au moins une heuristique optimise chaque instance de problème. Nous démontrons que la fonction objective de l'AHSD est monotone croissante et hypermodulaire, et nous proposons l'algorithme d'évolution des ensembles heuristiques (EoH-S) qui génère efficacement des ensembles heuristiques complémentaires de haute qualité en exploitant deux nouveaux mécanismes : la gestion de la population complémentaire et la recherche d'algorithmes génétiques prenant en compte la complémentarité. Les résultats expérimentaux sur des tâches AHD avec trois tailles et distributions différentes d'instances de problèmes démontrent que l'EoH-S surpasse systématiquement les méthodes AHD de pointe existantes, atteignant jusqu'à 60 % d'amélioration des performances.

Takeaways, Limitations

•
Takeaways:
◦
Nous présentons une nouvelle méthode (AHSD) qui surmonte les limitations d'une seule heuristique dans l'AHD basé sur LLM et améliore les performances de généralisation pour diverses instances de problèmes.
◦
En révélant les propriétés mathématiques de la fonction objective de l'AHSD (monotone croissante et hypermodulaire), nous établissons une base théorique pour la conception d'algorithmes.
◦
Développement de l'algorithme EoH-S pour générer efficacement un ensemble heuristique complémentaire de haute qualité grâce à des mécanismes de gestion de groupe complémentaires et de recherche d'algorithmes génétiques cognitifs complémentaires.
◦
Nous présentons des résultats expérimentaux qui surpassent considérablement les méthodes AHD les plus performantes existantes sur une variété d'instances de problèmes (jusqu'à 60 % d'amélioration des performances).
•
Limitations:
◦
L’efficacité de la méthode proposée peut être limitée à un domaine de problèmes spécifique, et sa généralisabilité à d’autres types de problèmes nécessite des recherches supplémentaires.
◦
L’analyse du réglage des paramètres de l’algorithme EoH-S fait défaut et des recherches supplémentaires sur l’optimisation des paramètres sont nécessaires.
◦
Il peut y avoir une forte dépendance à la taille et aux performances du LLM, et il existe une possibilité de dégradation des performances en raison des limitations du LLM.
◦
La diversité des exemples de problèmes utilisés dans les expériences peut être limitée, et d’autres expériences sur une gamme plus large d’exemples de problèmes sont nécessaires.
👍
Made with Slashpage