Effort-aware Fairness: Incorporating a Philosophy-informed, Human-centered Notion of Effort into Algorithmic Fairness Metrics
Created by
Haebom
저자
Tin Nguyen, Jiannan Xu, Zora Che, Phuong-Anh Nguyen-Le, Rushil Dandamudi, Donald Braman, Furong Huang, Hal Daume III, Zubin Jelveh
개요
본 논문은 기존의 AI 공정성 평가 지표들이 입력 특징 공간에서 개인이 노력한 정도를 고려하지 않는다는 점을 지적하며, 노력을 고려한 공정성(Effort-aware Fairness, EaF) 개념을 제시합니다. EaF는 힘(Force) 혹은 예측 특징의 시간적 궤적과 관성을 결합하여 정의되며, 형평성 평가 과정에서 시간적 궤적이 집합적 값보다 더 중요하게 고려됨을 보여주는 사전 등록된 인간 피험자 실험 결과와 범죄 사법 및 개인 금융 분야에서 EaF를 계산하는 파이프라인을 제시합니다. 이는 시스템적 또는 초기 삶의 불리함에도 불구하고 개선을 위해 상당한 노력을 기울인 개인에 대한 불공정한 결정을 밝히고 수정하는 데 기여할 수 있습니다.
시사점, 한계점
•
시사점:
◦
기존 AI 공정성 평가의 한계를 극복하고, 노력을 고려한 새로운 공정성 평가 지표인 EaF를 제시합니다.
◦
인간의 공정성 인식에 대한 실험적 증거를 제시하여 EaF의 타당성을 뒷받침합니다.
◦
범죄 사법 및 개인 금융 분야에서 EaF를 적용할 수 있는 실용적인 파이프라인을 제공합니다.
◦
시스템적 불이익에도 노력한 개인에 대한 불공정성을 해소하는 데 기여할 수 있습니다.
•
한계점:
◦
EaF 개념의 정의 및 측정에 있어서 주관성 및 모호성이 존재할 수 있습니다. '노력'의 정량화가 어려울 수 있습니다.
◦
제시된 파이프라인의 일반화 가능성 및 다양한 상황에 대한 적용 가능성에 대한 추가적인 연구가 필요합니다.
