데이터 기반 인공지능 기술의 투명성 부족은 의료 의사결정 과정에서 해석 가능성과 수용성을 제한한다. 본 논문은 유방암 수술 후 림프절 방사선 치료 후 림프부종 위험 평가에 있어 설명 가능한 AI 기반 예측의 해석 가능성을 향상시키기 위한 귀속 기반 접근법을 제안한다. 제안된 방법은 정보 검색 기술의 표준 지표를 사용하여 규칙 기반 예측 모델의 속성에 대한 통계적 분석을 수행한다. 이 분석은 각 속성의 예측과 관련성을 계산하고 사용자에게 위험 요소의 영향에 대한 해석 가능한 정보를 제공한다. 제안된 접근 방식으로 생성된 출력과 설명 가능한 AI 모델의 원시 출력을 비교한 사용자 연구 결과는 림프부종 위험 예측 맥락에서 더 높은 수준의 해석 가능성과 유용성을 시사한다.
시사점, 한계점
•
시사점: 규칙 기반 예측 모델의 속성에 대한 통계적 분석을 통해 설명 가능한 AI의 해석성을 향상시키는 새로운 접근법을 제시. 정보 검색 기술의 표준 지표를 활용하여 위험 요소의 영향에 대한 해석 가능한 정보 제공. 사용자 연구 결과를 통해 제안된 방법의 높은 해석 가능성과 유용성을 확인. 특히 의료 의사결정 과정에서 AI 기술의 수용성 증대에 기여할 수 있음.
•
한계점: 제안된 방법의 일반화 가능성에 대한 추가 연구 필요. 특정 의료 영역(유방암 수술 후 림프절 방사선 치료 후 림프부종 위험 평가)에 국한된 연구 결과. 다양한 유형의 설명 가능한 AI 모델에 대한 적용 가능성 검증 필요. 사용자 연구의 규모 및 참여자 특성에 대한 자세한 정보 부족.
