Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

One-vs.-One Mitigation of Intersectional Bias: A General Method to Extend Fairness-Aware Binary Classification

Created by
  • Haebom
Category
Empty

저자

Kenji Kobayashi, Yuri Nakao

개요

본 논문은 기계 학습의 실세계 적용이 증가함에 따라 차별적 편향의 영향이 주목받고 있음을 배경으로 한다. 기존의 편향 완화 방법들은 다수의 민감 속성을 고려할 때 특정 보호 집단의 하위 집단이 불이익을 받는 교차적 편향(intersectional bias)을 고려하지 못했다는 한계점을 지적한다. 이를 해결하기 위해, 본 논문은 이진 분류를 위한 공정 인식 기계 학습에 민감 속성과 관련된 각 하위 집단 쌍 간의 비교 과정을 적용하는 One-vs.-One Mitigation 방법을 제안한다. 세 가지 접근 방식(전처리, 중간 처리, 후처리), 여섯 가지 지표(인구 통계적 동등성, 동등한 기회, 동등한 확률의 비율 및 차이), 그리고 두 가지 실제 데이터 세트(Adult 및 COMPAS)를 사용하여 제안된 방법과 기존의 공정 인식 이진 분류 방법을 비교 분석한다. 그 결과, 제안된 방법이 모든 설정에서 기존 방법보다 교차적 편향을 훨씬 더 잘 완화함을 보여주며, 다중 민감 속성이 존재할 때 발생하는 보다 현실적인 문제 해결을 위한 공정 인식 이진 분류의 잠재력을 제시한다.

시사점, 한계점

시사점:
One-vs.-One Mitigation 방법이 기존 방법보다 교차적 편향 완화에 훨씬 효과적임을 실험적으로 증명.
다중 민감 속성을 고려한 현실적인 문제에 대한 공정 인식 기계 학습의 적용 가능성을 확장.
전처리, 중간 처리, 후처리 세 가지 접근 방식 모두에서 성능 향상을 보임.
한계점:
제안된 방법의 성능은 사용된 데이터셋과 지표에 의존적일 수 있음. 다양한 데이터셋과 지표에 대한 추가적인 실험이 필요할 수 있음.
본 논문은 이진 분류 문제에만 초점을 맞추고 있으므로, 다중 클래스 분류 문제로의 확장에 대한 연구가 필요함.
교차적 편향을 완화하기 위한 다른 접근 방식과의 비교 분석이 추가적으로 필요할 수 있음.
👍