Explaining AI Without Code: A User Study on Explainable AI

Created by

Haebom

저자

Natalia Abarca, Andres Carvallo, Claudia Lopez Moncada, Felipe Bravo-Marquez

💡 개요

본 논문은 헬스케어, 금융 등 민감한 분야에서 머신러닝(ML)의 활용이 증가함에 따라 발생하는 자동화된 결정의 투명성 문제를 다룹니다. 기존 설명 가능한 AI(XAI) 방법론은 전문 지식을 요구하여 초심자에게는 접근성이 낮다는 점에 착안하여, 본 연구에서는 코딩 없이 ML 모델을 사용할 수 있는 no-code ML 플랫폼인 DashAI에 인간 중심의 XAI 모듈을 통합했습니다. 세 가지 설명 기법(PDP, PFI, KernelSHAP)을 통합한 후 진행한 사용자 연구 결과, 전반적으로 높은 작업 성공률을 보였으며, 특히 초심자들은 설명에 대해 높은 만족도와 신뢰도를 나타냈습니다.

🔑 시사점 및 한계

•

no-code ML 플랫폼에서 XAI 모듈은 ML 초심자에게도 AI 설명을 효과적으로 제공할 수 있습니다.

•

사용자의 ML 전문성에 따라 설명의 유용성, 정확성, 신뢰성에 대한 인식이 다르게 나타날 수 있습니다.

•

초심자에게는 접근성과 이해도를 높이는 설명이 중요하지만, 전문가에게는 설명의 충분성과 완전성을 충족시키는 것이 과제입니다.

•

향후 연구에서는 초심자에게는 이해하기 쉬우면서도 전문가에게는 충분한 상세 정보를 제공하는 XAI 방법론 개발이 필요합니다.

PDF 보기

Made with Slashpage