Daily Arxiv

Esta página recopila y organiza artículos sobre inteligencia artificial publicados en todo el mundo.
La información aquí presentada se resume utilizando Google Gemini y el sitio se gestiona sin fines de lucro.
Los derechos de autor de los artículos pertenecen a sus autores y a las instituciones correspondientes; al compartir el contenido, basta con citar la fuente.

Adaptación del tiempo de prueba de desmezcla bajo flujos de datos heterogéneos

Created by
  • Haebom

Autor

Zixian Su, Jingwei Guo, Xi Yang, Qiufeng Wang, Kaizhu Huang

Describir

Este artículo aborda el desafío de implementar modelos profundos en escenarios reales debido a las variaciones distribucionales entre los entornos de entrenamiento y de implementación. Si bien la Adaptación en Tiempo de Prueba (TTA) tradicional ha presentado una solución prometedora para adaptar modelos sobre la marcha sin acceso a los datos fuente, su efectividad se reduce significativamente bajo variaciones distribucionales complejas y mixtas (coexistencia de múltiples dominios latentes) comúnmente encontradas en entornos reales. La adaptación bajo dicha heterogeneidad inherente, particularmente en entornos no etiquetados y en línea, sigue siendo un desafío inexplorado. En este artículo, estudiamos la TTA bajo variaciones distribucionales mixtas y vamos más allá del paradigma convencional de adaptación homogénea. Reconsideramos la TTA desde una perspectiva del dominio de la frecuencia, observando que la heterogeneidad distribucional a menudo se manifiesta en el espacio de Fourier (p. ej., los componentes de alta frecuencia tienden a transmitir variaciones específicas del dominio). Esto nos permite realizar una separación consciente del dominio utilizando señales de textura de alta frecuencia, lo que facilita el manejo de diversos patrones de variación. Para este fin, proponemos un marco de adaptación distribuida basado en la frecuencia, FreDA. FreDA descompone datos globalmente heterogéneos en componentes localmente homogéneos en el dominio de la frecuencia y se adapta robustamente a cambios complejos y evolutivos mediante estrategias de aprendizaje distribuido y aumento. Experimentos exhaustivos en diversos entornos (dañados, naturales y médicos) demuestran que el marco propuesto supera las técnicas más avanzadas.

Takeaways, Limitations

Takeaways:
Una nueva perspectiva (dominio de la frecuencia) sobre el problema TTA bajo cambios de distribución mixtos.
Se propone una técnica de separación consciente del dominio que utiliza señales de textura de alta frecuencia.
Desarrollo de un marco de adaptación distribuida eficiente llamado FreDA y verificación de su excelencia en diversos entornos.
Presentamos una metodología TTA robusta para cambios distributivos complejos en entornos reales.
Limitations:
Existe la posibilidad de que el rendimiento de FreDA sea más sensible a ciertos tipos de cambios distributivos (se necesitan más experimentos y análisis).
Se necesita más investigación sobre la escalabilidad y el costo computacional de FreDA para datos de alta dimensión.
Los resultados experimentales se limitan a un dominio específico, lo que requiere una mayor verificación de generalización.
👍