Effort-aware Fairness: Incorporating a Philosophy-informed, Human-centered Notion of Effort into Algorithmic Fairness Metrics
Created by
Haebom
저자
Tin Trung Nguyen, Jiannan Xu, Zora Che, Phuong-Anh Nguyen-Le, Rushil Dandamudi, Donald Braman, Furong Huang, Hal Daume III, Zubin Jelveh
개요
본 논문은 인공지능(AI)의 공정성 평가에 있어 기존의 인구 통계적 동등성과 같은 지표들이 개인의 노력을 고려하지 않는다는 점을 지적하며, 노력을 고려한 공정성(Effort-aware Fairness, EaF) 개념을 제시한다. EaF는 예측 변수의 시간적 궤적과 관성을 고려하는 '힘(Force)' 개념을 기반으로 한다. 이를 위해, 개인의 공정성 평가 과정에서 사람들이 예측 변수의 집계 값보다 시간적 궤적을 더 중요하게 고려한다는 것을 보여주는 사전 등록된 인간 피험자 실험 결과와 형사 사법 및 개인 금융 분야에서 EaF를 계산하는 파이프라인을 제시한다. 이는 시스템적 불이익을 극복하기 위해 노력했지만 여전히 불이익을 받는 개인에 대한 불공정한 결정을 밝히고 수정하는 데 기여할 수 있다.