ADORE: Autonomous Domain-Oriented Relevance Engine for E-commerce
Created by
Haebom
Category
Empty
저자
Zheng Fang, Donghao Xie, Ming Pang, Chunyuan Yuan, Xue Jiang, Changping Peng, Zhangang Lin, Zheng Luo
개요
ADORE는 전자상거래 검색의 관련성 모델링 문제를 해결하기 위한 자체 유지형 프레임워크입니다. 이 프레임워크는 (1) 사용자의 의도에 맞춰 훈련 데이터를 생성하고 Kahneman-Tversky Optimization (KTO)을 통해 사용자 행동에 맞게 조정하는 Rule-aware Relevance Discrimination 모듈, (2) 견고성을 강화하기 위해 적대적 예제를 자동 생성하는 Error-type-aware Data Synthesis 모듈, (3) 배포 가능한 학생 모델에 도메인별 속성 계층 구조를 주입하는 Key-attribute-enhanced Knowledge Distillation 모듈의 세 가지 혁신을 통합합니다. ADORE는 주석, 적대적 생성 및 증류를 자동화하여 데이터 부족을 극복하고 추론 능력을 향상시킵니다. 대규모 실험과 온라인 A/B 테스트를 통해 효과가 입증되었습니다.
시사점, 한계점
•
시사점:
◦
데이터 희소성 문제를 해결하고 추론 능력을 향상시키는 리소스 효율적인 관련성 모델링 프레임워크 제시.
◦
Chain-of-Thought LLM과 KTO를 활용하여 사용자 행동에 맞춰 훈련 데이터를 생성하는 방법론 제시.