Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Biased Minds Meet Biased AI: How Class Imbalance Shapes Appropriate Reliance and Interacts with Human Base Rate Neglect

Created by
  • Haebom
Category
Empty

저자

Nick von Felten, Johannes Schoning, Klaus Opwis, Nicolas Scharowksi

개요

본 논문은 사람들이 의사 결정 과정에서 인공지능(AI)과 상호작용할 때 발생하는 편향에 대한 연구를 다룹니다. 특히, AI의 불균형 데이터셋으로 인한 편향이 사람의 AI 의존도에 미치는 영향과, 인간의 기본율 무시 편향과의 상호작용을 조사합니다. 온라인 실험(N=46)을 통해 AI 기반 의사 결정 지원 시스템을 사용하여 세 가지 질병을 분류하도록 하였고, 그 결과 AI의 불균형이 참여자의 AI 의존도 조절을 방해하고, 불균형과 기본율 무시 사이의 상호 강화 효과를 발견했습니다. 이러한 발견을 바탕으로, 상호작용주의적 관점과 인간-AI 상호작용에서 편향의 상호 강화 효과에 대한 추가 연구를 제안합니다.

시사점, 한계점

시사점:
AI의 불균형 데이터셋이 인간의 AI 의존도 조절에 부정적인 영향을 미칠 수 있음을 발견했습니다.
AI 편향과 인간 편향이 서로 상호 작용하여 복합적인 편향을 발생시킬 수 있음을 시사합니다.
인간-AI 상호작용 연구에서 상호작용주의적 관점의 중요성을 강조합니다.
한계점:
소규모 표본(N=46)을 대상으로 한 연구이므로 일반화에 제한이 있을 수 있습니다.
온라인 연구 환경의 특성상 실제 환경과의 차이가 존재할 수 있습니다.
특정 질병 분류 작업에 국한된 연구이므로 다른 분야로의 적용 가능성에 대한 추가 연구가 필요합니다.
👍