본 논문은 인터넷 콘텐츠 생성에 점점 더 많이 기여하는 대규모 언어 모델(LLM)의 반복적 미세 조정이 데이터 분포 이동(distribution shift)을 야기하여 모델의 성능 저하를 초래할 수 있다는 점에 주목합니다. 특히, 이전 연구에서 제기된 데이터 분포 이동 현상이 인간 데이터의 특성에 따라 크게 달라질 수 있다는 점을 확인하기 위해, Twitter와 Reddit 데이터셋을 비교 분석합니다. 다양한 데이터 특성(어휘 다양성, 의미 다양성, 정치적 편향 등)이 데이터 분포 이동의 속도와 유형에 미치는 영향을 분석하여, 어휘 다양성이 높고 의미 다양성이 낮은 텍스트가 생성 텍스트의 질 저하를 심화시킬 수 있다는 점과 인간 데이터의 정치적 성향에 따라 편향 감소, 증폭 또는 역전 등 다양한 유형의 변화가 발생할 수 있다는 점을 밝힙니다. 결론적으로, 반복적 미세 조정의 결과는 학습에 사용되는 인간 데이터의 특성에 크게 의존하며, 인터넷의 서로 다른 영역(예: GitHub, Reddit)에서 데이터 특성에 따라 서로 다른 유형의 변화가 나타날 수 있음을 시사합니다.
