본 논문은 기계 학습에서 편향 완화 기법의 실패 원인을 탐구합니다. 많은 편향 완화 기법들이 공통적으로 사용하지만 간과되는 하위 그룹 정의에 주목하여, 다양한 시각 및 언어 분류 작업에서 최첨단 편향 완화 기법들을 평가합니다. 거친, 세분화된, 교차, 잡음이 있는 하위 그룹 등 다양한 하위 그룹 정의를 체계적으로 변화시키면서 실험을 진행하고, 하위 그룹 선택이 성능에 큰 영향을 미치며, 특정 그룹화는 완화를 전혀 하지 않는 것보다 오히려 더 나쁜 결과를 초래할 수 있음을 밝힙니다. 이러한 현상을 이론적으로 분석하여, 특정 하위 그룹에 대한 공정성을 개선하기 위해서는 다른 하위 그룹을 사용하는 것이 더 효과적일 수 있음을 보여줍니다. 결론적으로, 편향 완화에서 신중한 하위 그룹 정의의 중요성을 강조하고, 기계 학습 모델의 강건성과 공정성을 향상시키기 위한 대안적인 방법을 제시합니다.
