Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

CHANSON : Graphes neuronaux auto-organisés

Created by
  • Haebom

Auteur

{\L}ukasz Struski, Tomasz Danel, Marek Smieja, Jacek Tabor, Bartosz Zieli nski

Contour

Cet article se concentre sur les recherches croissantes sur les réseaux neuronaux profonds interprétables utilisant des arbres de décision. Il souligne que ces derniers présentent les avantages d'une interprétation aisée, d'une prise de décision rapide et d'une hiérarchisation des classes par rapport aux modèles de classification par régression logistique. Cependant, les arbres de décision présentent l'inconvénient de ne pas pouvoir réutiliser les nœuds de décision, ce qui constitue un désavantage par rapport aux graphes de décision. Dans cet article, nous proposons un paradigme général basé sur les processus de Markov pour résoudre le problème de la faible utilisation des graphes de décision en apprentissage profond, faute de techniques d'apprentissage efficaces basées sur les gradients. Cela permet d'entraîner efficacement un type particulier de graphe de décision appelé graphe neuronal auto-organisateur (SONG). Dans cet article, nous présentons des études théoriques approfondies sur SONG et des résultats expérimentaux utilisant les jeux de données Letter, Connect4, MNIST, CIFAR et TinyImageNet, et démontrons que ses performances sont aussi bonnes, voire supérieures, que celles des modèles de prise de décision existants.

Takeaways, Limitations

Takeaways:
Nous proposons un nouveau paradigme de formation de graphes de décision appelé Self-Organizing Neural Graphs (SONG) basé sur les processus de Markov, augmentant ainsi la convivialité des graphes de décision dans l'apprentissage en profondeur.
Nous proposons une solution au problème de non-réutilisation des nœuds de décision, qui est Limitations des modèles d'arbres de décision existants.
Nous avons vérifié expérimentalement qu’il fonctionne de manière égale ou supérieure aux modèles de prise de décision existants sur divers ensembles de données.
Limitations:
Des recherches supplémentaires pourraient être nécessaires sur les performances de généralisation de SONG présentées dans cet article.
Bien que nous présentions des résultats expérimentaux sur divers ensembles de données, nous ne pouvons pas exclure la possibilité que nos résultats soient biaisés en faveur de certains types d’ensembles de données.
Il y a un manque d’analyse sur la complexité de calcul et l’efficacité de la mémoire de SONG.
👍