Exploring the Escalation of Source Bias in User, Data, and Recommender System Feedback Loop
Created by
Haebom
저자
Yuqi Zhou, Sunhao Dai, Liang Pang, Gang Wang, Zhenhua Dong, Jun Xu, Ji-Rong Wen
개요
본 논문은 대규모 언어 모델(LLM) 기반 AI 생성 콘텐츠(AIGC)가 추천 시스템의 성능과 역학에 미치는 영향을 연구합니다. 단기적으로는 AIGC가 추천 시스템에서 더 높은 순위를 차지하는 소스 편향 현상을 밝히고, 장기적으로는 시뮬레이션 기반 피드백 루프를 통해 AIGC가 콘텐츠 생태계를 지배할 경우 추천 성능 저하를 야기할 수 있음을 보여줍니다. 이러한 문제를 해결하기 위해 L1-loss 최적화 기반의 편향 제거 방법을 제안하고, 실제 환경에서의 효과를 검증합니다. 실험 결과, 제안된 방법이 AIGC와 인간 생성 콘텐츠 간의 균형을 유지하는 데 효과적임을 확인합니다.
시사점, 한계점
•
시사점:
◦
AIGC가 추천 시스템의 성능과 콘텐츠 생태계에 미치는 단기 및 장기적 영향을 규명했습니다.
◦
AIGC에 대한 소스 편향 현상과 그로 인한 불공정한 트래픽 분배 문제를 제시했습니다.
◦
AIGC 지배로 인한 추천 성능 저하 가능성을 실험적으로 증명했습니다.
◦
AIGC와 인간 생성 콘텐츠 간의 균형을 유지하는 데 효과적인 편향 제거 방법을 제안했습니다.
