Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

A taxonomy of epistemic injustice in the context of AI and the case for generative hermeneutical erasure

Created by
  • Haebom

저자

Warmhold Jan Thomas Mollema

개요

본 논문은 인공지능(AI)과 관련된 인식 불의의 증가하는 문제를 다룬다. AI의 인식 불투명성, 알고리즘 분류 시스템의 차별적 자동화, 생성형 AI의 '환각'을 통한 인간 신념의 왜곡, 글로벌 AI 거버넌스에서의 글로벌 사우스 포함, 알고리즘 시스템을 통한 관료적 폭력 실행, 대화형 인공 에이전트와의 상호 작용에서의 인식 불의 등 다양한 측면을 고려한다. 논문은 먼저 인식 불의의 일반적인 분류 체계를 제안하고, 이를 바탕으로 AI 맥락에서의 인식 불의 유형을 기술한다. 특히, 대규모 언어 모델(LLM)의 적용을 통해 발생할 수 있는 새로운 유형의 인식 불의인 '생성적 해석적 삭제(generative hermeneutical erasure)'를 제시한다. 이는 생성형 AI가 서구적 개념 공간 외부에서 배포될 때, 특히 인식 영역에서 개념적 삭제 효과를 발생시키고, AI 시스템과 대화자 간의 개념적 틀 불일치로 인한 개념적 혼란을 야기한다는 주장이다. AI 시스템의 '어디에도 없는 관점(view from nowhere)'은 비서구적 인식론을 인식론적으로 열등하게 만들고, 이를 통해 그들의 인식론적 특수성을 침식시켜, 점진적으로 해석적 삭제에 기여한다고 주장한다. 본 연구는 AI 영역에서 인식 불의를 매핑할 수 있는 분류 체계를 제안하고, 새로운 유형의 AI 관련 인식 불의를 제시하는 데 그 의의가 있다.

시사점, 한계점

시사점:
AI 관련 인식 불의의 다양한 유형에 대한 체계적인 분류 체계 제공
생성형 AI의 비서구적 맥락에서의 배포가 초래하는 새로운 유형의 인식 불의인 '생성적 해석적 삭제' 개념 제시
AI 개발 및 적용 시 인식 불의 문제에 대한 고려의 중요성 강조
비서구적 인식론의 보호 및 존중 필요성 제시
한계점:
제시된 분류 체계의 포괄성 및 실증적 검증 필요
'생성적 해석적 삭제' 개념의 구체적인 사례 연구 및 실증적 분석 부족
AI 시스템의 'view from nowhere' 개념의 정교화 필요
해결 방안 제시 부족
👍