Cette page résume et organise les publications en intelligence artificielle du monde entier. Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif. Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.
Cet article explore la décomposition des réseaux de neurones en composants plus simples, une étape clé de la rétro-ingénierie. Pour pallier les limites des méthodes de décomposition existantes, nous proposons un cadre de décomposition linéaire des paramètres qui décompose les paramètres des réseaux de neurones en une somme de vecteurs peu utilisés dans l'espace des paramètres. Cependant, la méthode courante actuelle, la décomposition des paramètres basée sur l'attribution (APD), est peu pratique en raison de son coût de calcul et de sa sensibilité aux hyperparamètres. Dans cet article, nous présentons la décomposition stochastique des paramètres (SPD), une nouvelle méthode plus évolutive et robuste aux hyperparamètres que l'APD. La SPD peut décomposer des modèles plus grands et plus complexes que l'APD, évite des problèmes tels que la réduction des paramètres appris et démontre une meilleure identification des mécanismes sous-jacents dans les modèles jouets. En reliant l'analyse de médiation causale aux méthodes de décomposition de réseaux, nous abordons les problèmes d'évolutivité des méthodes de décomposition linéaire des paramètres pour les grands modèles, ouvrant ainsi de nouvelles perspectives de recherche sur l'interprétabilité mécaniste. Nous avons publié une bibliothèque permettant d'exécuter des expériences SPD et reproductibles ( https://github.com/goodfire-ai/spd/tree/spd-paper ).
Nous présentons un algorithme SPD qui est plus évolutif et robuste aux hyperparamètres que l'APD.
◦
Résolution du problème de réduction des paramètres appris, qui est un problème dans APD.
◦
Identifier plus précisément les mécanismes réels à partir de modèles de jouets
◦
ÉTendre la recherche sur l’interprétation mécaniste par la combinaison de l’analyse de médiation causale et des méthodes de décomposition de réseau.
◦
Une bibliothèque open source capable d'exécuter et de reproduire SPD est publiée.
•
Limitations:
◦
Les performances de l’algorithme SPD proposé sont limitées aux modèles de jouets et aux modèles relativement grands, et sa généralisabilité aux modèles à grande échelle du monde réel nécessite une étude plus approfondie.
◦
Une vérification supplémentaire des performances et de l’efficacité lorsqu’elles sont appliquées à des réseaux neuronaux complexes réels est nécessaire.
