[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

L'estimateur de Parzen structuré en arbre peut résoudre plus efficacement l'optimisation combinatoire en boîte noire

Created by
  • Haebom

Auteur

Kenshin Abe, Yunzhuo Wang, Shuhei Watanabe

Contour

Dans cet article, nous proposons un algorithme d'optimisation combinatoire efficace utilisant l'estimateur de Pazen arborescent (TPE). Le TPE est une méthode d'optimisation par hyperparamètres (HPO) largement utilisée, mais elle est principalement axée sur l'apprentissage profond. Dans cet article, nous généralisons le noyau catégoriel et le noyau numérique et introduisons une structure de distance au noyau catégoriel afin d'appliquer le TPE aux domaines où l'optimisation combinatoire est importante, comme la chimie et la biologie. De plus, nous proposons une méthode modifiée pour réduire la complexité temporelle du calcul du noyau afin de traiter efficacement un vaste espace de recherche combinatoire. Grâce à des expériences sur des problèmes synthétiques, nous vérifions que la méthode proposée trouve de meilleures solutions avec moins d'évaluations que le TPE existant. L'algorithme est implémenté dans Optuna, un framework HPO open source.

Takeaways, Limitations

Takeaways:
Nous présentons un nouvel algorithme qui peut appliquer efficacement le TPE aux problèmes d’optimisation combinatoire.
Améliore les performances du TPE pour les problèmes d'optimisation combinatoire impliquant des variables catégorielles.
Il fournit des algorithmes qui fonctionnent efficacement même dans de grands espaces de recherche.
L'algorithme proposé est disponible via le framework open source Optuna.
Limitations:
Les performances de l’algorithme proposé ont été évaluées sur la base de problèmes synthétiques, et ses performances dans des applications réelles nécessitent une validation supplémentaire.
Cette méthode pourrait n'être efficace que pour certains types de problèmes d'optimisation combinatoire. Des expériences supplémentaires sur différents types de problèmes sont nécessaires.
👍