Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Modeling Fairness in Recruitment AI via Information Flow

Created by
  • Haebom
Category
Empty

저자

Mattias Brannstrom, Themis Dimitra Xanthopoulou, Lili Jiang

개요

본 논문은 AI 기반 의사 결정의 공정성을 확보하고 책임 소재를 명확히 하기 위해, 정보 흐름 기반 모델링 프레임워크를 실제 채용 과정에 적용하여 분석한다. 기술적 측면과 사회 윤리적 고려 사항 간의 상호 작용을 포착하는 데 초점을 맞춰, 알고리즘 매칭과 인간 의사 결정이 통합된 채용 프로세스를 다층적으로 표현한다. 이해 관계자와의 인터뷰 및 반복적인 모델링을 통해 정보가 변환, 필터링 및 해석되는 과정을 파악하고, 편향이 발생할 수 있는 지점, 시스템을 통해 전파되는 방식, 후보자에게 미치는 영향을 분석한다.

시사점, 한계점

시사점:
정보 흐름 모델링을 통해 복잡한 사회 기술 시스템 내에서 공정성 위험을 구조적으로 분석할 수 있다.
알고리즘 및 인간 요소 모두에서 정보가 어떻게 흐르고 영향을 미치는지 시각적으로 파악하여 투명성을 높인다.
편향 발생 지점을 조기에 식별하고, 시스템 내에서의 전파 경로를 분석하여 개선 방안을 모색할 수 있다.
한계점:
특정 채용 프로세스에 대한 사례 연구이므로, 다른 분야 및 맥락에 일반화하기 어려울 수 있다.
모델링의 정확성은 인터뷰 데이터의 품질과 이해 관계자의 협력에 의존한다.
기술적 측면과 사회 윤리적 고려 사항 간의 상호 작용을 모델링하는 데 한계가 있을 수 있다.
👍