Este artículo presenta un marco de optimización unificado denominado Tri-Accel. Tri-Accel adapta conjuntamente tres estrategias de aceleración y parámetros adaptativos durante el entrenamiento. Estas estrategias son: Actualizaciones Adaptativas de Precisión, que asigna dinámicamente niveles de precisión mixtos según la curvatura y la varianza del gradiente; Señales Dispersas de Segundo Orden, que aprovecha los patrones dispersos Hessianos/Fisher para guiar las decisiones sobre precisión y tamaño de paso; y Escalado Elástico de Lotes en Memoria, que ajusta el tamaño de los lotes en tiempo real según la disponibilidad de VRAM. En experimentos con CIFAR-10 utilizando ResNet-18 y EfficientNet-B0, Tri-Accel reduce el tiempo de entrenamiento hasta en un 9,9 % y el uso de memoria en un 13,3 %, a la vez que mejora la precisión en un +1,1 % con respecto a la línea base de FP32. Tri-Accel se implementa mediante un kernel Triton personalizado, lo que permite la optimización automática sin ajuste manual de hiperparámetros mediante la adaptación basada en hardware.
