[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Refactorisation spéculative automatisée de programmes d'apprentissage profond impératifs pour l'exécution graphique

Created by
  • Haebom

Auteur

Raffi Khatchadourian, Tatiana Castro Velez, Mehdi Bagherzadeh, Nan Jia, Anita Raja

Contour

Cet article présente une technique de refactorisation automatisée pour améliorer l'efficacité des systèmes d'apprentissage profond (DL). Les frameworks DL existants basés sur l'exécution différée offrent une excellente évolutivité, mais présentent les inconvénients d'être sujets aux erreurs, peu intuitifs et difficiles à déboguer. En revanche, l'exécution anticipée est facile à développer, mais lente à exécuter. Dans cet article, nous proposons une technique permettant d'identifier et de refactoriser automatiquement les parties de codes DL basés sur l'exécution anticipée pouvant être exécutées efficacement à partir de graphes. Cette technique est implémentée à l'aide de tenseurs implicites statiques et d'une analyse des effets secondaires basée sur Python, et utilise l'analyse prédictive par mots-clés pour gérer l'incertitude liée à la nature dynamique de Python. Cette technique, implémentée sous la forme d'un plugin PyDev Eclipse IDE, a été évaluée sur 19 projets DL (132 KLOC) et a atteint une accélération moyenne de 2,16x en refactorisant 326 fonctions candidates sur 766 (42,56 %). La précision du modèle n'a pratiquement pas varié.

Takeaways, Limitations

Takeaways:
Nous présentons une technique de refactorisation automatisée qui peut améliorer les performances du code DL de manière rapide et efficace.
Déterminer la faisabilité d'une exécution efficace basée sur des graphiques à l'aide de techniques d'analyse statique basées sur Python.
L’efficacité de la technique est vérifiée par des résultats expérimentaux ciblant des projets DL réels.
Atteint une accélération moyenne de 2,16x avec peu d'impact sur la précision du modèle.
Limitations:
En raison de la nature dynamique de Python, la précision de l’analyse statique est limitée et certaines parties reposent sur une analyse prédictive.
La cible d'analyse est limitée au code DL basé sur Python.
La taille et la diversité des projets utilisés dans l’évaluation peuvent être limitées.
Une validation supplémentaire peut être nécessaire sur la précision des analyses prédictives basées sur des mots-clés spécifiques.
👍