Explanation-Driven Interventions for Artificial Intelligence Model Customization: Empowering End-Users to Tailor Black-Box AI in Rhinocytology
Created by
Haebom
저자
Andrea Esposito (University of Bari Aldo Moro), Miriana Calvano (University of Bari Aldo Moro), Antonio Curci (University of Bari Aldo Moro, University of Pisa), Francesco Greco (University of Bari Aldo Moro), Rosa Lanzilotti (University of Bari Aldo Moro), Antonio Piccinno (University of Bari Aldo Moro)
개요
본 논문은 의료 분야에서 인공지능(AI) 기반 의사결정 지원 시스템인 Rhino-Cyt 플랫폼을 사용하여, 블랙박스 AI 모델에 대한 새로운 최종 사용자 개발(EUD) 접근 방식을 제시합니다. Rhino-Cyt는 비강세포학자들을 위한 세포 분류 시스템이며, 재설계된 사용자 인터페이스를 통해 사용자가 AI 의사결정 과정에 개입하여 설명을 수정하고 모델을 재구성함으로써 향후 예측에 영향을 줄 수 있도록 합니다. 이는 설명 기반 개입을 통해 설명 가능성, 사용자 개입, 모델 재구성을 결합하여 인간과 사용자 맞춤형 AI 시스템 간의 공생을 촉진하는 인간 중심 AI(HCAI) 및 EUD에 기여합니다.
시사점, 한계점
•
시사점:
◦
블랙박스 AI 모델에 대한 최종 사용자의 개입 및 제어 가능성을 높이는 새로운 EUD 접근 방식 제시
◦
설명 가능성, 사용자 개입, 모델 재구성을 통합하여 인간과 AI 간의 효과적인 상호작용을 가능하게 함
◦
의료 분야와 같이 고위험 영역에서 인간의 통제력 유지를 강화하는 데 기여
◦
인간 중심 AI (HCAI) 및 EUD 연구에 대한 새로운 관점 제시
•
한계점:
◦
제시된 접근 방식의 일반화 가능성 및 다른 도메인으로의 적용 가능성에 대한 추가 연구 필요
◦
사용자 인터페이스의 사용 편의성 및 효율성에 대한 추가적인 평가 필요
◦
Rhino-Cyt 플랫폼에 특화된 접근 방식이므로 다른 AI 시스템으로의 확장성 검증 필요
