본 논문은 대규모 언어 모델(LMs)에서의 공정성(fairness)에 대한 체계적인 조사를 제시한다. LMs가 다양한 자연어 처리(NLP) 작업에서 뛰어난 성능을 보임에도 불구하고, 성별이나 인종과 같은 민감한 속성과 관련된 사회적 편향을 상속하고 증폭시킬 수 있다는 점을 지적한다. 따라서 본 논문은 기존의 다양한 공정성 개념들을 포괄적으로 검토하고, 인코더 전용, 디코더 전용, 인코더-디코더 LM 등 변압기(transformer) 아키텍처를 기반으로 한 새로운 분류 체계를 제안한다. 각 공정성 정의에 대한 실험적 예시와 그 결과를 제시하며, 향후 연구 과제와 미해결 문제를 논의하여 해당 분야의 발전을 도모한다.
