Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Using a cognitive architecture to consider antiBlackness in design and development of AI systems

Created by
  • Haebom

저자

Christopher L. Dancy

개요

본 논문은 인종차별, 특히 흑인에 대한 적대감(antiblackness)이 AI 시스템 설계 및 개발에 미치는 영향을 인지 모델링을 통해 고찰한다. ACT-R/Φ 인지 아키텍처와 ConceptNet 지식 그래프 시스템을 활용하여 인지적, 사회문화적, 생리적 관점에서 문제를 분석한다. 소프트웨어 엔지니어링 관점에서 AI 시스템 설계 및 개발에 나타나는 antiblackness를 탐구하는 수단으로 인지 모델링을 사용하는 것 외에도, antiblackness, 인간, 그리고 계산 인지 모델링 간의 연관성을 제시한다. 기존 인지 아키텍처와 인지 모델링에서 사회문화적 과정과 지식 구조를 배제하는 것이 암묵적으로 색맹적인 접근 방식을 조장하고, 인간 행동에 항상 존재하며 인지 과정에 영향을 미치는 사회문화적 맥락을 숨긴다고 주장한다.

시사점, 한계점

시사점:
인지 모델링을 통해 AI 시스템 내 인종차별의 잠재적 영향을 분석하는 새로운 접근 방식 제시.
사회문화적 맥락을 고려한 인지 모델링의 중요성 강조.
antiblackness가 AI 시스템 설계 및 개발에 미치는 영향에 대한 심층적인 이해 증진.
인지 모델링과 사회적 정의 문제 간의 연관성을 보여줌.
한계점:
제시된 예시의 일반화 가능성에 대한 추가 연구 필요.
ACT-R/Φ와 ConceptNet의 한계점이 결과에 미칠 수 있는 영향에 대한 논의 부족.
인지 모델링을 통해 밝혀낸 인종차별의 구체적인 해결책 제시 부족.
사회문화적 맥락의 복잡성을 완전히 포착하지 못할 가능성.
👍