Before the Clinic: Transparent and Operable Design Principles for Healthcare AI
Created by
- Haebom
Category
Empty
저자
Alexander Bakumenko (Clemson University, USA), Aaron J. Masino (Clemson University, USA), Janine Hoelscher (Clemson University, USA)
개요
인공지능(AI) 시스템을 임상 환경에 적용하려면 설명 가능한 AI 이론, 임상의의 기대, 규제 요구 사항 간의 기본적인 격차를 해소해야 한다. 설명 가능한 AI(XAI)의 구성 요소를 정의하는 개념적 프레임워크와 임상의의 요구 사항을 파악하는 질적 연구는 존재하지만, 임상 평가 전에 AI 시스템을 준비하기 위한 개발 팀에 대한 실질적인 지침은 부족하다. 본 논문에서는 의료 AI를 위한 임상 전 기술 요구 사항을 구체화하는 두 가지 기본 설계 원칙, 투명한 설계(Transparent Design)와 작동 가능한 설계(Operable Design)를 제안한다. 투명한 설계는 사례별 추론 및 시스템 추적성을 가능하게 하는 해석 가능성 및 이해 가능성 아티팩트를 포함한다. 작동 가능한 설계는 실제 환경에서 안정적이고 예측 가능한 시스템 동작을 보장하기 위해 보정, 불확실성, 견고성을 포함한다. 이러한 원칙을 확립된 XAI 프레임워크에 기반하고, 문서화된 임상의 요구 사항에 매핑하며, 새로운 규제 요구 사항과의 조화를 보여준다. 이 임상 전 플레이북은 개발 팀에 실행 가능한 지침을 제공하고, 임상 평가로의 경로를 가속화하며, AI 연구자, 의료 전문가 및 규제 이해 관계자를 연결하는 공유 어휘를 구축한다. 임상 배포 전에 구축하고 검증할 수 있는 것을 명시적으로 범위를 정함으로써, 검증된, 배포된 설명 가능성의 구성 요소를 신중하게 고려하면서 임상 AI 적용의 마찰을 줄이는 것을 목표로 한다.
시사점, 한계점
•
시사점:
◦
임상 평가 전 AI 시스템 개발을 위한 실행 가능한 설계 원칙 제시 (투명한 설계, 작동 가능한 설계)
◦
XAI 프레임워크, 임상의 요구사항, 규제 요구사항 간의 연결점을 제시
◦
AI 연구자, 의료 전문가, 규제 이해 관계자 간의 소통을 위한 공유 어휘 구축
◦
임상 AI 적용 과정의 효율성 증대
•
한계점:
◦
구체적인 XAI 기술이나 구현 방법에 대한 상세 정보 부족
◦
'검증된, 배포된 설명 가능성'에 대한 정의와 범위에 대한 추가 연구 필요
◦
실제 임상 환경에서의 검증 및 결과 제시 부족
