Effort-aware Fairness: Incorporating a Philosophy-informed, Human-centered Notion of Effort into Algorithmic Fairness Metrics
Created by
Haebom
저자
Tin Nguyen, Jiannan Xu, Zora Che, Phuong-Anh Nguyen-Le, Rushil Dandamudi, Donald Braman, Furong Huang, Hal Daume III, Zubin Jelveh
개요
본 논문은 인공지능(AI)의 공정성 평가에 있어 기존의 인구 통계적 평등과 같은 지표들이 입력 특징 공간에서 개인이 노력한 정도를 고려하지 않는다는 점을 지적하며, 노력을 고려한 공정성(Effort-aware Fairness, EaF) 개념을 제시합니다. EaF는 특징의 시간적 궤적과 관성을 고려하는 '힘(Force)'의 개념에 기반합니다. 이론적 정립 외에도, (1) 개인의 공정성 평가 과정의 두 단계 모두에서 사람들이 특징의 집계 값보다 시간적 궤적을 더 고려한다는 것을 보여주는 사전 등록된 인간 대상 실험과 (2) 형사 사법 및 개인 금융 분야에서 노력을 고려한 개인/집단 공정성을 계산하는 파이프라인을 제시합니다. 이 연구는 AI 모델 감사자가 시스템적 불이익을 극복하기 위해 상당한 노력을 기울였음에도 불구하고 여전히 불이익을 받는 개인에 대한 불공정한 결정을 발견하고 수정할 수 있도록 합니다.
시사점, 한계점
•
시사점:
◦
AI 공정성 평가에 있어 노력의 중요성을 강조하고, 기존 지표의 한계를 극복하는 새로운 관점을 제시.