Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

A taxonomy of epistemic injustice in the context of AI and the case for generative hermeneutical erasure

Created by
  • Haebom

저자

Warmhold Jan Thomas Mollema

개요

본 논문은 AI와 관련된 인식 불평등(epistemic injustice)을 다룬다. 기계 학습 모델과 관련된 인식 불평등은 인식 불투명성(epistemic opacity), 증언 편견의 차별적 자동화, 생성형 AI의 환각에 의한 인간 신념 왜곡, 글로벌 AI 거버넌스에서의 글로벌 사우스 배제, 알고리즘 시스템을 통한 관료적 폭력 실행, 대화형 인공 에이전트와의 상호 작용 등 다양한 원인을 가진다. 본 논문은 먼저 기술 철학, 정치 철학, 사회 인식론 분야 학자들의 연구를 바탕으로 AI 맥락에서의 인식 불평등 유형 분류 체계를 제시한다. 둘째, AI 맥락에서의 인식 불평등에 대한 새로운 개념화인 '생성적 해석학적 지움(generative hermeneutical erasure)'을 제안한다. 이는 LLM에 의한 인식론 및 개념화의 차이 억압을 통한 집단적 의미 생성 능력에 대한 불의, 즉 '인식 학살(epistemicide)'의 자동화라고 주장한다. AI 시스템의 '어디에도 없는 관점(view from nowhere)'은 비서구적 인식론을 인식적으로 열등하게 만들어 그 특수성을 침식시키고, 점진적으로 해석학적 지움에 기여한다고 논증한다. 본 연구의 의의는 AI 영역에서 인식 불평등을 매핑할 수 있는 분류 체계를 제안하고, 새로운 형태의 AI 관련 인식 불평등을 제안하는 데 있다.

시사점, 한계점

시사점: AI 시스템에서 발생하는 다양한 유형의 인식 불평등을 체계적으로 분류하고 분석하는 틀을 제공한다. 특히, '생성적 해석학적 지움'이라는 새로운 개념을 통해 AI가 비서구적 인식론을 훼손하는 메커니즘을 밝힌다. AI 개발 및 활용 과정에서 인식 불평등 문제에 대한 인식을 제고하고, 이를 해결하기 위한 정책적·기술적 방안 모색에 기여한다.
한계점: 제시된 분류 체계의 포괄성 및 실증적 검증 필요성. '생성적 해석학적 지움' 개념의 구체적인 적용 및 측정 방법에 대한 추가 연구 필요성. 비서구적 인식론의 정의 및 범위에 대한 명확한 규정 필요성. 제안된 해결 방안에 대한 구체적인 논의 부족.
👍