Responsible Evaluation of AI for Mental Health

Wed, 29 Apr 2026 08:29:19 GMT

### 저자

Hiba Arnaout, Anmol Goel, H. Andrew Schwartz, Steffen T. Eberhardt, Dana Atzil-Slonim, Gavin Doherty, Brian Schwartz, Wolfgang Lutz, Tim Althoff, Munmun De Choudhury, Hamidreza Jamalabadi, Raj Sanjay Shah, Flor Miriam Plaza-del-Arco, Dirk Hovy, Maria Liakata, Iryna Gurevych

### 💡 개요

본 논문은 정신 건강 분야 AI 도구의 평가 방식이 임상 실제, 사회적 맥락, 사용자 경험과 동떨어져 있음을 지적하며, 이를 개선하기 위한 '책임 있는 평가' 방법론을 제안합니다. 임상적 타당성, 사회적 맥락, 형평성을 통합한 새로운 평가 프레임워크를 제시하고, 135편의 관련 연구 분석을 통해 기존 평가의 한계를 규명합니다. 궁극적으로 정신 건강 AI 유형별로 고유한 위험과 평가 요구사항을 정의하는 분류 체계를 통해 보다 실질적이고 책임감 있는 평가를 수행하고자 합니다.

### 🔑 시사점 및 한계

- 정신 건강 AI의 효과적인 개발 및 배포를 위해서는 임상적 타당성, 사회적 맥락, 형평성을 고려한 다각적인 평가가 필수적입니다.

- 기존 연구에서 발견된 일반적인 지표에 대한 과도한 의존, 정신 건강 전문가 참여 부족, 안전 및 형평성 간과와 같은 한계점을 인식하고 개선해야 합니다.

- 제안된 AI 정신 건강 지원 유형별 분류 체계는 각 유형에 맞는 맞춤형 평가 기준을 설정하는 데 유용하며, 실제 사례 연구를 통해 그 적용 가능성을 보여줍니다.

- 본 연구는 평가 프레임워크의 개념적 틀을 제시하지만, 실제 임상 현장에서의 광범위한 검증 및 실제 적용을 위한 추가 연구가 필요합니다.

[PDF 보기](https://arxiv.org/pdf/2602.00065)