본 논문은 기계 학습에서 편향 완화 기법의 실패 원인을 탐구한다. 많은 편향 완화 기법들이 공통적으로 사용하는 하위 그룹 정의 단계에 주목하여, 다양한 시각 및 언어 분류 작업에서 최첨단 편향 완화 기법들을 평가한다. 거친, 세분화된, 교차적, 그리고 잡음이 포함된 하위 그룹 정의를 체계적으로 변화시키면서 실험을 진행하여 하위 그룹 선택이 성능에 큰 영향을 미치며, 특정 그룹화는 완화를 적용하지 않는 것보다 오히려 더 나쁜 결과를 초래할 수 있음을 보였다. 이러한 현상을 이론적으로 분석하여, 특정 하위 그룹에 대한 공정성을 개선하는 데에는 다른 하위 그룹을 사용하는 것이 더 효과적일 수 있다는 반직관적인 통찰을 제시한다. 결론적으로, 편향 완화에서 신중한 하위 그룹 정의의 중요성을 강조하며, 이를 기계 학습 모델의 강건성과 공정성을 향상시키기 위한 대안적 수단으로 제시한다.
