Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

"Cold, Calculated, and Condescending": How AI Identifies and Explains Ableism Compared to Disabled People

Created by
  • Haebom

저자

Mahika Phutane, Ananya Seelam, Aditya Vashistha

개요

본 논문은 장애인(PwD)이 온라인에서 겪는 능력주의적 증오와 마이크로어그레션에 대한 AI 모델의 효과적인 식별 능력과 장애인의 판단과의 일치 여부를 조사한 연구입니다. 200개의 소셜 미디어 댓글 데이터셋을 구축하여 최신 AI 모델(Toxicity Classifiers, LLMs)과 190명의 참가자에게 독성 및 능력주의 수준을 평가하고 이유를 설명하게 하였습니다. 혼합방법 분석 결과, AI는 장애인의 평가보다 독성을 과소평가하고 능력주의 평가는 산발적이고 다양했습니다. LLM은 편향을 어느 정도 식별했지만, 설명은 미묘함이 부족하고 잘못된 가정을 하고 판단적이었습니다. 능력주의 조절 시스템 설계의 과제와 기회를 논의하고, AI 개발에 교차적 장애인 관점의 참여를 주장합니다.

시사점, 한계점

시사점:
AI 모델이 온라인 능력주의적 발언을 효과적으로 감지하지 못하고 장애인의 경험과 상당한 차이를 보임을 밝힘.
AI 모델의 설명이 부정확하고 편향되어 교육적이지 못함을 강조.
능력주의 조절 시스템 개발에 교차적 장애인 관점의 중요성을 제시.
한계점:
데이터셋 규모(200개 댓글)가 상대적으로 작을 수 있음.
특정 플랫폼 또는 유형의 댓글에 국한될 수 있는 일반화 가능성의 제한.
AI 모델의 성능 향상을 위한 구체적인 방안 제시 부족.
👍