이 논문은 eBay 판매자의 광고 캠페인 성과 향상을 위해 키워드를 추천하는 시스템을 개선하는 연구입니다. 기존의 임베딩 기반 검색(EBR) 모델은 클릭 데이터의 편향성을 가지고 있기 때문에, 대규모 언어 모델(LLM)을 판단자로 활용하여 이러한 편향을 제거하는 두 단계 LLM 증류 과정을 제안합니다. 먼저 크로스 인코더를 중간 단계로 활용하여 LLM 판단자로부터 지식을 추출하고, 이를 다중 작업 학습을 통해 바이 인코더 모델에 증류합니다. 최종적으로, 증류된 바이 인코더 모델을 사용하여 판매자에게 관련성 높은 키워드를 추천합니다. 실험 결과, 제안된 방법이 eBay에서 판매자에게 적절한 키워드를 검색하는 바이 인코더의 성능을 향상시키는 것을 보여줍니다.
