[공지사항]을 빙자한 안부와 근황 
Show more

Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

FairSHAP: Preprocessing for Fairness Through Attribution-Based Data Augmentation

Created by
  • Haebom

저자

Lin Zhu, Yijun Bian, Lei You

개요

FairSHAP은 Shapley value attribution을 활용하여 개인 및 그룹 공정성을 모두 향상시키는 새로운 전처리 프레임워크입니다. 기존 전처리 방법과 달리, 공정성에 영향을 미치는 특징이나 인스턴스를 식별하는 투명한 메커니즘을 제공합니다. 공정성에 중요한 인스턴스를 식별하고, 민감한 그룹 간 인스턴스 매칭을 통해 체계적으로 수정하여 차별적 위험(개인 공정성 지표)을 줄입니다. 데이터 무결성과 모델 정확도를 유지하면서 인구 통계적 동등성과 기회균등을 크게 향상시키며, 일부 경우 예측 성능까지 향상시킵니다. 모델에 독립적이고 투명한 방법으로 기존 머신러닝 파이프라인에 통합되며 편향의 원인에 대한 실행 가능한 통찰력을 제공합니다.

시사점, 한계점

시사점:
Shapley value를 활용하여 공정성에 영향을 미치는 특징 및 인스턴스를 투명하게 식별합니다.
개인 및 그룹 공정성을 동시에 개선합니다.
데이터 왜곡을 최소화하면서 공정성을 향상시키고, 경우에 따라 예측 성능도 향상시킵니다.
모델에 독립적이며 기존 파이프라인에 쉽게 통합 가능합니다.
편향의 원인에 대한 실행 가능한 통찰력을 제공합니다.
한계점:
본 논문에서는 특정한 한계점을 명시적으로 언급하지 않습니다. 추가적인 실험이나 다양한 데이터셋에 대한 적용을 통해 일반화 성능 및 한계를 더 자세히 검토할 필요가 있습니다.
👍