Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Exploring Moral Exercises for Human Oversight of AI systems: Insights from Three Pilot Studies

Created by
  • Haebom

저자

Silvia Crafa, Teresa Scantamburlo

개요

본 논문은 AI 시스템의 효과적인 인간 감독을 가능하게 하는 미덕을 AI 행위자에게 함양시키는 수단으로서 도덕적 연습(moral exercises) 개념을 자세히 설명한다. 철학적 담론, 고대 관행 및 현대 AI 윤리 연구의 맥락에서 도덕적 연습의 개념적 틀과 중요성을 탐구하고, 참여적인 개인적 성향을 이끌어내고, 관계적 이해를 증진시키며, 기술윤리적 지혜를 함양하는 것을 핵심 원리로 제시한다. 기업, AI 연구자 다학제 팀, 고등 교육 학생들을 대상으로 한 세 가지 파일럿 연구 결과를 바탕으로 주장을 뒷받침하며, 도덕적 연습이 조직 내 책임감 있는 AI 문화를 조성하는 방법에 대한 통찰력을 제공하고 향후 연구 방향을 제시한다.

시사점, 한계점

시사점:
AI 시스템의 효과적인 인간 감독을 위한 새로운 접근 방식으로서 도덕적 연습의 가능성을 제시한다.
도덕적 연습의 핵심 원리(참여적 개인적 성향, 관계적 이해, 기술윤리적 지혜)를 명확히 규정한다.
조직 내 책임감 있는 AI 문화 조성을 위한 실질적인 방법을 제안한다.
향후 연구를 위한 방향을 제시한다.
한계점:
파일럿 연구의 규모가 제한적이므로 일반화에는 주의가 필요하다.
도덕적 연습의 장기적인 효과 및 지속 가능성에 대한 추가 연구가 필요하다.
도덕적 연습의 구체적인 적용 방법 및 평가 기준에 대한 보다 명확한 정의가 필요하다.
👍