[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

SIDDA: Adaptación dinámica del dominio SInkhorn para la clasificación de imágenes con redes neuronales equivariantes

Created by
  • Haebom

Autor

Sneh Pandya, Purvik Patel, Brian D. Nord, Mike Walmsley, Aleksandra Ciprijanovic

Describir

En este artículo, proponemos un novedoso algoritmo de adaptación de dominio (AD), SIDDA, basado en la divergencia de Sinkhorn, para abordar el problema del desplazamiento de covariables; es decir, la degradación del rendimiento de generalización de las redes neuronales cuando las distribuciones de los datos de entrenamiento y de prueba son diferentes, pero las distribuciones condicionales son iguales. SIDDA logra una alineación de dominio efectiva con un ajuste de hiperparámetros y un coste computacional mínimos. Demostramos la eficacia de SIDDA en conjuntos de datos simulados y reales (p. ej., formas simples, dígitos manuscritos y datos de observación astronómica) con diversas complejidades, y demostramos su eficacia para mejorar la precisión de la clasificación y la calibración del modelo, especialmente al utilizarse con redes neuronales equivariantes (ENN). SIDDA logra una mejora de hasta un 40 % en la precisión de la clasificación y mejora significativamente la calibración del modelo (mejora de más de 10 veces en las puntuaciones ECE y Brier). Es compatible con diversas arquitecturas de redes neuronales y permite el desarrollo de modelos generalizables en estudios con múltiples conjuntos de datos. Además, estudiamos el efecto de la adaptación del dominio en ENN con grupos diedros $D_N$ de varios grados y encontramos que el rendimiento del modelo mejora a medida que aumenta el grado de isomorfismo.

Takeaways, Limitations

Takeaways:
Presentamos el algoritmo SIDDA, que permite una adaptación efectiva del dominio con un ajuste mínimo de hiperparámetros.
Mejora el rendimiento de generalización de las redes neuronales en varios conjuntos de datos, especialmente cuando se combinan con redes neuronales equiláteras.
Mejora significativamente la precisión de la clasificación y la calibración del modelo (ECE, puntuación Brier).
Contribuir al desarrollo de modelos generalizables para estudios de múltiples conjuntos de datos.
Descubrimos que cuanto mayor sea el grado de isomorfismo de una red neuronal equivariante, mayor será el efecto de adaptación del dominio.
Limitations:
En este artículo, validamos el rendimiento del algoritmo SIDDA en varios conjuntos de datos, pero es posible que se necesiten experimentos adicionales en una gama más amplia de conjuntos de datos y tareas.
Hay una falta de análisis comparativo cuantitativo sobre cuán computacionalmente eficiente es el algoritmo SIDDA en comparación con otros métodos DA.
Es necesario un análisis comparativo con otras técnicas de alineación de dominios distintas de la divergencia de Sinkhorn.
👍