본 논문은 대규모 생성 언어 모델의 추론 능력과 공정성 간의 관계를 조사합니다. 강력한 추론 능력을 가진 대형 모델이 기존 공정성 벤치마크에서 고정관념적 편향을 훨씬 낮게 나타낸다는 것을 여러 오픈소스 LLM을 평가하여 발견했습니다. 이러한 통찰력을 바탕으로, 고급 추론 모델에서 구조화된 추론 추적을 추출하여 추론 능력이 부족한 모델에 주입하는 새로운 접근 방식인 ReGiFT(Reasoning Guided Fine-Tuning)를 제시합니다. ReGiFT를 사용하여 미세 조정된 모델은 공정성 측면에서 기존 모델을 능가할 뿐만 아니라, 고급 추론 모델보다 공정성 벤치마크에서 더 나은 성능을 보입니다. 추론 추적의 정확성과 길이가 모델의 공정성과 전반적인 성능에 미치는 영향도 분석합니다. 결론적으로, 추론 능력 향상은 추론 결함으로 인한 고정관념적 편향을 완화하는 효과적인 공정성 비의존적 전략임을 강조합니다.
