Cet article étudie l'amélioration d'un système de recommandation de mots clés afin d'optimiser les performances des campagnes publicitaires des vendeurs eBay. Le modèle de recherche basé sur l'intégration (EBR) existant étant sujet à un biais lié aux données de clics, nous proposons un processus de distillation LLM en deux étapes, utilisant un modèle de langage à grande échelle (LLM) comme juge pour éliminer ce biais. Tout d'abord, nous extrayons les connaissances du juge LLM à l'aide d'un encodeur croisé comme étape intermédiaire, puis nous distillons ces connaissances dans un modèle de bi-encodeur par apprentissage multitâche. Enfin, nous utilisons le modèle de bi-encodeur distillé pour recommander des mots clés pertinents aux vendeurs. Les résultats expérimentaux démontrent que la méthode proposée améliore les performances du bi-encodeur, qui recherche des mots clés pertinents pour les vendeurs sur eBay.