Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

CAPM : Vérification rapide et robuste sur CNN basé sur Maxpool via un double réseau

Created by
  • Haebom

Auteur

Jia-Hau Bai, Chi-Ting Liu, Yu Wang, Fu-Chieh Chang, Pei-Yuan Wu

Contour

Dans cet article, nous utilisons la méthode CAPM (Convex Adversarial Polytope for Maxpool-based CNN) pour améliorer les limites de validation d'un réseau neuronal convolutif (CNN) basé sur Maxpool typique, soumis à une interférence antagoniste avec une norme bornée. En décomposant la fonction Maxpool en une série de fonctions ReLU et en étendant la technique de relaxation convexe à la fonction Maxpool, les limites de validation peuvent être calculées efficacement via un réseau dual. Les résultats expérimentaux montrent que cette technique offre une précision de validation de pointe pour les CNN basés sur Maxpool, avec un coût de calcul bien inférieur à celui des méthodes de validation existantes telles que DeepZ, DeepPoly et PRIMA. De plus, cette méthode est applicable aux CNN à grande échelle, dont les calculs se sont révélés prohibitifs dans des études précédentes. Sous certaines conditions, CAPM est 40x, 20x ou 2x plus rapide que PRIMA/DeepPoly/DeepZ, et offre des limites de validation bien plus élevées (CAPM 98 % contre PRIMA 76 %/DeepPoly 73 %/DeepZ 8 %). De plus, nous montrons que la complexité temporelle de l'algorithme est $O(W^2NK)$, où W est la largeur maximale du réseau neuronal, N le nombre de neurones et K la taille du noyau de la couche maxpool.

Takeaways, Limitations

Takeaways:
Atteindre une précision de validation de pointe pour les CNN basés sur maxpool.
Coût de calcul bien inférieur aux méthodes existantes (DeepZ, DeepPoly, PRIMA).
Applicable aux CNN à grande échelle.
Fournit des limites de validation beaucoup plus élevées que les méthodes existantes (jusqu'à 98 % contre 76 %, 73 %, 8 %).
Présentez l'analyse de la complexité temporelle de l'algorithme ($O(W^2NK)$).
Limitations:
Présente les résultats de comparaison des performances dans des conditions spécifiques. Les performances dans des situations générales nécessitent une étude plus approfondie.
La complexité temporelle de $O(W^2NK)$ peut encore s'avérer coûteuse en calcul. Le temps de calcul peut augmenter considérablement selon la taille de W, N et K.
Manque d'analyse des erreurs d'approximation qui peuvent survenir lors du processus de décomposition de la fonction maxpool en fonctions ReLU.
👍