본 논문은 대규모 언어 모델(LLM)이 사용자의 주관적이고 이질적인 웹사이트 또는 앱 이용 행동을 얼마나 잘 반영하는지에 대한 의문을 제기한다. 사용자의 순차적인 페이지 접속 로그를 각 사용자의 고유한 "브라우징 언어"로 간주하고, 소규모 LM이 대규모 LM보다 이러한 "브라우징 언어"를 더 잘 표현할 수 있는지, 단일 매개변수 집합을 가진 LM이 다양한 사용자의 이질적인 행동을 충분히 포착할 수 있는지, 높은 평균 성능을 가진 단일 LM이 사용자 수준에서 일관된 성능을 보이는지 등 세 가지 질문을 제시한다. 이에 주관적인 행동에 적합한 클러스터별 LM 훈련 방법인 HeTLM(Heterogeneity aware Training of Language Model)을 제안하고, 소규모 LM이 페이지 단위 토크나이저를 사용하여 훈련될 때 대규모 사전 훈련 또는 미세 조정된 LM보다 성능이 우수하며, 이질적인 클러스터별 매개변수 집합을 사용하는 HeTLM이 동일한 크기의 단일 LM보다 성능이 우수하고, 생성 과정에서 평균 성능 향상과 분산 감소를 통해 사용자 수준의 정렬 개선을 달성함을 실험적으로 보여준다.
