Este artículo se centra en la incrustación de grafos de conocimiento federados (FKGE), que aprende colaborativamente incrustaciones de entidades y relaciones a partir de grafos de conocimiento (KG) de múltiples clientes en un entorno distribuido. Las incrustaciones de alta dimensión ofrecen ventajas en rendimiento, pero plantean desafíos en términos de espacio de almacenamiento y velocidad de inferencia. Los métodos de compresión de incrustaciones existentes requieren múltiples ejecuciones de entrenamiento del modelo, lo que aumenta los costos de comunicación de FKGE. Por lo tanto, este artículo propone FedKD, un componente ligero basado en la destilación de conocimiento (KD). FedKD permite que un modelo de estudiante de baja dimensión imite la distribución de puntuaciones de triplete de un modelo de profesor de alta dimensión utilizando la pérdida de divergencia de KL durante el entrenamiento local del lado del cliente. A diferencia de la KD convencional, FedKD aprende adaptativamente las temperaturas para puntuaciones de triplete positivas y ajusta las puntuaciones de triplete negativas utilizando temperaturas predefinidas, mitigando el problema de exceso de confianza del profesor. Además, ajusta dinámicamente los pesos de la pérdida de KD para optimizar el proceso de entrenamiento. Validamos la eficacia de FedKD mediante experimentos exhaustivos en tres conjuntos de datos.
