Role and Use of Race in AI/ML Models Related to Health
Created by
Haebom
저자
Martin C. Were, Ang Li, Bradley A. Malin, Zhijun Yin, Joseph R. Coco, Benjamin X. Collins, Ellen Wright Clayton, Laurie L. Novak, Rachele Hendricks-Sturrup, Abiodun Oluyomi, Shilo Anders, Chao Yan
개요
본 논문은 의료 관련 인공지능 및 기계학습(AI/ML) 모델 내에서 인종의 역할과 사용에 대한 증가하는 관심과 논쟁을 다룬다. 관련 문제의 복잡성과 광범위함에도 불구하고, 이해관계자들이 문제를 검토하고 해결하는 것을 안내하는 강력하고 전체적인 프레임워크는 부족하다. 이 논문은 AI/ML 수명 주기와 관련된 인종 관련 과제에 대한 광범위하고 체계적이며 상호 연관된 분석을 제공하며, 조사와 의사 결정을 지원하기 위해 "고려해야 할 사항"을 통해 구조화된다.
시사점, 한계점
•
시사점: AI/ML 수명 주기 전반에 걸쳐 인종 관련 문제를 체계적으로 검토하고 해결하기 위한 포괄적인 프레임워크를 제공한다. 의사결정 지원을 위한 구체적인 "고려해야 할 사항"을 제시하여 실질적인 적용을 돕는다.
•
한계점: 제시된 프레임워크의 실효성과 적용 가능성에 대한 실증적 연구가 부족하다. 다양한 인종 집단과 의료 환경에 대한 일반화 가능성에 대한 추가적인 검토가 필요하다. 윤리적 고려 사항에 대한 더 심층적인 논의가 필요할 수 있다.