Cette page résume et organise les publications en intelligence artificielle du monde entier. Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif. Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.
Améliorer la résilience des systèmes d'IA : formulation et garantie de la résilience LSTM basée sur la théorie du contrôle
Created by
Haebom
Auteur
Sota Yoshihara (École supérieure de mathématiques, Université de Nagoya), Ryosuke Yamamoto (AISIN SOFTWARE Co., Ltd), Hiroyuki Kusumoto (École supérieure de mathématiques, Université de Nagoya), Masanari Shimura (École supérieure de mathématiques, Université de Nagoya)
Contour
Cet article propose un nouveau cadre théorique pour garantir et évaluer la résilience des réseaux de mémoire à long terme (LSTM) dans les systèmes de contrôle. Nous introduisons le « temps de récupération » comme nouvelle mesure de résilience pour quantifier le temps nécessaire aux LSTM pour revenir à un état stable après des entrées anormales. En améliorant mathématiquement la théorie de la stabilité incrémentale de l'état d'entrée ($\delta$ISS) pour les LSTM, nous déduisons une limite supérieure pratique et indépendante des données pour le temps de récupération. Cette limite supérieure permet un apprentissage sensible à la résilience. La validation expérimentale sur un modèle simple démontre l'efficacité de notre méthode d'estimation et de contrôle de la résilience, renforçant ainsi les bases d'une assurance qualité rigoureuse dans les applications d'IA critiques pour la sécurité.
Takeaways, Limitations
•
Takeaways:
◦
Nous présentons une nouvelle mesure, le « temps de récupération », qui permet d’évaluer quantitativement la résilience des réseaux LSTM.
◦
Permet un apprentissage prenant en compte la résilience en fournissant une limite supérieure sur le temps de récupération indépendant des données.
◦
Nous fournissons une base théorique rigoureuse pour l’assurance qualité des réseaux LSTM dans les applications d’IA critiques pour la sécurité.
•
Limitations:
◦
L’efficacité de la méthode proposée n’a été vérifiée que par des expériences sur des modèles simples, et des recherches supplémentaires sont nécessaires pour déterminer son évolutivité vers des systèmes complexes du monde réel.
◦
Une analyse plus approfondie est nécessaire pour déterminer si le raffinement mathématique de la théorie $\delta$ISS peut être appliqué à tous les types et situations de réseaux LSTM.
◦
Une analyse plus approfondie de la précision et de la conservativité de la limite supérieure du temps de récupération est nécessaire.
