Exploring the Effect of Explanation Content and Format on User Comprehension and Trust in Healthcare
Created by
Haebom
저자
Antonio Rago, Bence Palfi, Purin Sukpanichnant, Hannibal Nabli, Kavyesh Vivek, Olga Kostopoulou, James Kinross, Francesca Toni
개요
본 논문은 AI 기반 의료 도구(예: 암 위험 예측 도구 QCancer)에 대한 설명의 내용과 형식이 사용자의 이해도와 신뢰도에 미치는 영향을 조사합니다. SHAP과 Occlusion-1을 설명 내용으로, 차트(SC, OC)와 텍스트(OT)를 설명 형식으로 사용하여 일반 대중(환자 대표)과 의대생(의료 종사자 대표)을 대상으로 실험을 진행했습니다. 실험 결과, Occlusion-1이 SHAP보다 주관적인 이해도와 신뢰도가 높았지만, 형식을 통제했을 때는 OT가 SC보다 성능이 뛰어났습니다. 이는 텍스트 형식에 대한 선호도가 영향을 미쳤음을 시사합니다. 결론적으로 설명 형식이 내용보다 중요한 요소임을 확인했습니다.
시사점, 한계점
•
시사점:
◦
AI 기반 의료 도구의 설명에서 형식(텍스트 vs. 차트)이 내용보다 사용자의 이해도와 신뢰도에 더 큰 영향을 미칠 수 있음을 보여줍니다.
◦
특히, 간단한 설명에는 텍스트 형식이 더 효과적일 수 있습니다.
◦
의료 AI 도구의 설명을 설계할 때 사용자 친화적인 형식을 고려해야 함을 시사합니다.
•
한계점:
◦
실험 대상이 일반 대중과 의대생으로 제한되어 실제 의료 현장의 다양한 사용자를 반영하지 못할 수 있습니다.
◦
주관적인 이해도와 신뢰도를 측정하여 객관적인 지표가 부족할 수 있습니다.
◦
SHAP과 Occlusion-1 이외의 다른 설명 기법에 대한 연구가 필요합니다.
◦
실험에서 사용된 특정 설명 도구(QCancer)의 특성이 결과에 영향을 미쳤을 가능성이 있습니다.
