본 논문은 대규모 언어 모델(LLM)이 이름을 기반으로 성별, 인종, 사회적 지위에 따른 편향된 평가를 내리는지 조사한 연구이다. 5개 민족의 다양한 이름 변형을 분석하여 LLM이 성별과 민족을 나타내는 이름을 기반으로 능력, 리더십, 경제적 잠재력에 대한 차별적인 기대치를 부호화하여 지위 계층을 반영하고 강화하는 방식을 밝혔다. 기존의 AI가 백인을 선호한다는 일반적인 가정과 달리, 동아시아계, 그리고 어떤 경우 남아시아계 이름이 더 높은 순위를 받는다는 것을 보여주었으며, 아시아계를 단일 집단으로 보는 편견을 깨고 아시아계 내부의 다층적인 편향을 드러냈다. 또한, 성별에 따라 편향이 달라지며, 특히 일부 인종 집단의 여자아이들이 불공정한 불이익을 받는다는 점을 밝혔다. 서구식 이름을 사용하면 동아시아계와 동남아시아계 학생들의 AI에 의한 지위 평가가 향상되는데, 특히 여자아이들에게 더욱 그러하다. 결론적으로, LLM 평가 시 인종, 성별, 혼합된 정체성에 대한 교차적이고 세밀한 이해의 중요성을 강조한다.
