Daily Arxiv

Cette page résume et organise les publications en intelligence artificielle du monde entier.
Les contenus sont synthétisés grâce à Google Gemini et le service est proposé à but non lucratif.
Les droits d'auteur des articles appartiennent à leurs auteurs ou institutions respectives ; en cas de partage, il suffit d'en mentionner la source.

Adaptation au temps de test sans mélange sous des flux de données hétérogènes

Created by
  • Haebom

Auteur

Zixian Su, Jingwei Guo, Xi Yang, Qiufeng Wang, Kaizhu Huang

Contour

Cet article aborde le défi du déploiement de modèles profonds dans des scénarios réels en raison des variations distributionnelles entre les environnements d'entraînement et de déploiement. Si l'adaptation au temps de test (TTA) traditionnelle s'est avérée prometteuse pour adapter les modèles à la volée sans accès aux données sources, son efficacité est considérablement réduite en cas de variations distributionnelles complexes et mixtes (coexistence de plusieurs domaines latents) fréquemment rencontrées dans les environnements réels. L'adaptation à une telle hétérogénéité inhérente, en particulier dans les environnements non étiquetés et en ligne, reste un défi inexploré. Dans cet article, nous étudions la TTA en cas de variations distributionnelles mixtes et allons au-delà du paradigme conventionnel d'adaptation homogène. Nous revisitons la TTA dans une perspective de domaine fréquentiel, observant que l'hétérogénéité distributionnelle se manifeste souvent dans l'espace de Fourier (par exemple, les composantes haute fréquence tendent à véhiculer des variations spécifiques au domaine). Cela nous permet d'effectuer une séparation sensible au domaine à l'aide d'indices de texture haute fréquence, facilitant ainsi la gestion de divers modèles de variation. À cette fin, nous proposons un cadre d'adaptation distribuée basé sur la fréquence, FreDA. FreDA décompose des données globalement hétérogènes en composantes localement homogènes dans le domaine fréquentiel et s'adapte efficacement aux changements complexes et évolutifs grâce à des stratégies d'apprentissage distribué et d'augmentation. Des expériences approfondies menées dans divers environnements (endommagés, naturels et médicaux) démontrent que le cadre proposé surpasse les techniques de pointe.

Takeaways, Limitations

Takeaways:
Une nouvelle perspective (domaine fréquentiel) sur le problème TTA sous changements de distribution mixtes.
Une technique de séparation sensible au domaine utilisant des indices de texture à haute fréquence est proposée.
Développement d'un cadre d'adaptation distribué efficace appelé FreDA et vérification de son excellence dans divers environnements.
Présentation d'une méthodologie TTA robuste pour les changements de distribution complexes dans des environnements réels.
Limitations:
Il est possible que les performances de FreDA soient plus sensibles à certains types de changements de distribution (d'autres expériences et analyses sont nécessaires).
Des recherches supplémentaires sont nécessaires sur l’évolutivité et le coût de calcul de FreDA pour les données de grande dimension.
Les résultats expérimentaux sont limités à un domaine spécifique, nécessitant une vérification supplémentaire de leur généralisabilité.
👍