본 논문은 간단한 계산 모델을 통해 인간의 도덕적 판단을 포착하려는 윤리적 AI 연구의 동향을 살펴보고, 신장 배분이라는 사례 연구를 통해 이러한 간단한 AI 모델이 도덕적 의사결정의 핵심적인 뉘앙스를 포착하는지 여부를 질문합니다. 20명의 참가자 인터뷰를 통해 신장 수혜자 결정에 대한 참가자들의 판단 근거를 분석하여, 참가자들이 도덕적으로 관련된 속성에 대해 다양한 정도로 가치를 부여하고, 의사결정 복잡성을 줄이기 위한 휴리스틱을 사용하는 다양한 의사결정 과정을 사용하며, 의견을 바꿀 수 있고, 불완전한 정보로 인해 때때로 결정에 대한 확신이 부족하며, AI가 인간의 신장 배분 결정을 지원하는 것에 대한 열정과 우려를 표명함을 관찰했습니다. 이러한 연구 결과를 바탕으로 도덕적 판단을 계산적으로 모델링하는 것의 어려움을 논의하고, 현재 접근 방식의 단점을 강조하며, 이러한 문제를 해결하기 위한 미래 방향을 제시합니다.
