En este artículo, presentamos un modelo de referencia para el ajuste fino continuo de instrucciones (FCIT) basado en aprendizaje federado (FL) para abordar los desafíos de la recopilación masiva de datos y los costos computacionales necesarios para el ajuste fino de instrucciones de modelos multimodales (LMM) a gran escala. A diferencia de los métodos FL existentes, que asumen un número fijo de tareas, FCIT modela situaciones reales donde los clientes adquieren continuamente nuevos conocimientos y tienen dificultades para mantener las tareas existentes. Para ello, construimos un modelo de referencia que incluye dos escenarios realistas, cuatro configuraciones y doce conjuntos de datos de ajuste fino de instrucciones, y proponemos un método para abordar diversas heterogeneidades de datos y problemas de olvido mediante la construcción dinámica de conocimiento y la activación selectiva de subespacios. Los resultados experimentales muestran que el método propuesto mejora significativamente el rendimiento del modelo. El código y los conjuntos de datos están disponibles públicamente.