Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Effort-aware Fairness: Incorporating a Philosophy-informed, Human-centered Notion of Effort into Algorithmic Fairness Metrics

Created by
  • Haebom

저자

Tin Trung Nguyen, Jiannan Xu, Zora Che, Phuong-Anh Nguyen-Le, Rushil Dandamudi, Donald Braman, Furong Huang, Hal Daume III, Zubin Jelveh

개요

본 논문은 인공지능(AI)의 공정성 평가에 있어 기존의 인구 통계적 동등성과 같은 지표들이 개인의 노력을 고려하지 않는다는 점을 지적하며, 노력을 고려한 공정성(Effort-aware Fairness, EaF) 개념을 제시한다. EaF는 예측 변수의 시간적 궤적과 관성을 고려하는 '힘(Force)' 개념을 기반으로 한다. 이를 위해, 개인의 공정성 평가 과정에서 사람들이 예측 변수의 집계 값보다 시간적 궤적을 더 중요하게 고려한다는 것을 보여주는 사전 등록된 인간 피험자 실험 결과와 형사 사법 및 개인 금융 분야에서 EaF를 계산하는 파이프라인을 제시한다. 이는 시스템적 불이익을 극복하기 위해 노력했지만 여전히 불이익을 받는 개인에 대한 불공정한 결정을 밝히고 수정하는 데 기여할 수 있다.

시사점, 한계점

시사점:
AI 공정성 평가에 있어 개인의 노력을 고려하는 새로운 관점 제시
'힘' 개념을 활용한 EaF의 이론적 정립 및 실증적 연구 결과 제시
형사 사법 및 개인 금융 분야에서 EaF를 계산하는 파이프라인 제공
시스템적 불이익을 받는 개인에 대한 불공정한 결정을 발견하고 수정하는 데 도움
한계점:
'노력'의 정의 및 측정에 대한 명확성 부족 및 주관성 가능성 존재
제시된 파이프라인의 일반화 가능성 및 다양한 상황 적용에 대한 추가 연구 필요
인간 피험자 실험의 범위 및 일반화 가능성에 대한 추가 검토 필요
'힘' 개념의 정확한 정의 및 계산 방법에 대한 추가적인 설명 필요
👍