Explainable AI-Based Interface System for Weather Forecasting Model
Created by
Haebom
저자
Soyeon Kim, Junho Choi, Yeji Choi, Subeen Lee, Artyom Stitsyuk, Minkyoung Park, Seongyeop Jeong, Youhyun Baek, Jaesik Choi
개요
본 논문은 기상 의사결정에서 점점 더 중요해지는 머신러닝(ML) 모델에 대한 설명 가능한 인공지능(XAI) 연구를 수행했다. 기존 XAI 연구가 부족한 기상학 분야에 초점을 맞춰 사용자 연구를 통해 흑상자 모델에 대한 설명의 세 가지 요구사항 (다양한 강우 시나리오에 대한 통계적 모델 성능을 통한 모델 편향 식별, 모델 추론, 모델 출력의 신뢰도)을 정의했다. 각 요구사항에 적합한 XAI 방법을 매핑하고 생성된 설명을 정량적 및 정성적으로 평가했다. 사용자 피드백을 바탕으로 XAI 인터페이스 시스템을 설계했으며, 그 결과 설명이 의사결정 유용성과 사용자 신뢰도를 높이는 것을 보였다. 사용자들은 잠재적으로 쉽게 인식 가능한 예시에서조차 XAI 알고리즘 기반 설명보다 직관적인 설명을 선호했다. 이러한 결과는 사용자 중심 XAI 알고리즘에 대한 미래 연구와 실제 AI 시스템의 사용성 개선을 위한 근거를 제공한다.
시사점, 한계점
•
시사점:
◦
기상학 분야에서 사용자 중심 XAI 연구의 필요성을 강조하고, 그에 대한 구체적인 요구사항을 제시했다.
◦
사용자의 의사결정 유용성과 신뢰도 향상에 기여하는 XAI 인터페이스 시스템 설계 및 평가 방법을 제시했다.
◦
사용자는 직관적인 설명을 선호한다는 것을 실증적으로 보여주었다.
◦
향후 사용자 중심 XAI 알고리즘 연구 및 실제 AI 시스템의 사용성 개선에 대한 근거를 제공한다.
