FairTargetSim: An Interactive Simulator for Understanding and Explaining the Fairness Effects of Target Variable Definition
Created by
Haebom
저자
Dalia Gala, Milo Phillips-Brown, Naman Goel, Carinal Prunkl, Laura Alvarez Jubete, medb corcoran, Ray Eitel-Porter
개요
본 논문은 머신러닝에서 목표 변수의 정의가 공정성에 미치는 심대한 영향을 다룹니다. 목표 변수의 정의 단계에서 이미 편향이 내재될 수 있으며, 이는 데이터 수집 및 훈련 이전에 발생합니다. 따라서 알고리즘 시스템의 책임 있는 개발, 배포 및 사용을 위해 목표 변수 정의의 결과에 대한 고려가 필수적입니다. 이를 위해 논문에서는 대화형 시뮬레이션 기반 접근 방식인 FairTargetSim (FTS)을 제안합니다. 실제 데이터와 사용자 정의 목표 변수를 기반으로 알고리즘 채용 과정을 예시로 FTS를 보여주며, 알고리즘 개발자, 비기술적 이해관계자, 연구자, 교육자들이 다양한 방식으로 활용할 수 있도록 오픈소스로 제공합니다.
시사점, 한계점
•
시사점:
◦
목표 변수 정의 단계에서의 편향 문제를 인지하고 해결하기 위한 새로운 접근 방식 제시
◦
대화형 시뮬레이션을 통해 다양한 이해관계자의 참여 및 공정성 평가 가능
◦
오픈소스로 제공되어 폭넓은 활용 및 추가 연구 가능
◦
실제 데이터 기반의 알고리즘 채용 예시를 통해 현실적인 적용 가능성 제시
•
한계점:
◦
제시된 예시(알고리즘 채용)가 다른 분야에 얼마나 일반화될 수 있는지에 대한 추가 연구 필요
