Sign In

Zero-shot Medical Event Prediction Using a Generative Pre-trained Transformer on Electronic Health Records

Created by
  • Haebom
Category
Empty

저자

Ekaterina Redekop, Zichen Wang, Rushikesh Kulkarni, Mara Pleasure, Aaron Chin, Hamid Reza Hassanzadeh, Brian L. Hill, Melika Emami, William Speier, Corey W. Arnold

개요

전자 건강 기록(EHR)의 종단 데이터를 활용하여 진단, 시술, 약물, 검사 등의 개념을 시퀀스로 나타내는 생성형 사전 훈련 변환기(GPT) 기반 기초 모델을 이용한 제로샷 예측 분석 연구입니다. 기존의 파인튜닝 방식 대신, EHR 데이터로 사전 훈련된 GPT 기반 모델을 사용하여 의료 개념 예측을 생성 모델링 작업으로 공식화하는 새로운 파이프라인을 제시합니다. 이를 통해 광범위한 레이블링된 데이터가 필요한 지도 학습 방식과 달리, 사전 훈련된 지식만으로 향후 의료 이벤트를 예측할 수 있습니다. 다양한 시간대와 임상 범주에 걸쳐 성능을 평가하여, 과제별 감독 없이 잠재적인 시간적 의존성과 복잡한 환자 경로를 포착하는 모델의 능력을 보여줍니다. 평균 top1 정밀도 0.614, 재현율 0.524를 달성하였고, 12가지 주요 진단 질환에 대해 높은 진양성률과 낮은 위양성률을 달성하며 우수한 제로샷 성능을 보였습니다.

시사점, 한계점

시사점:
EHR GPT 기반 기초 모델을 이용한 제로샷 예측의 가능성을 최초로 종합적으로 분석하였습니다.
파인튜닝 없이도 강력한 예측 성능을 보여주어, 의료 예측 모델의 확장성을 높였습니다.
다양한 표현형을 포착하고 견고한 임상 결과 예측을 가능하게 합니다.
과제별 훈련의 필요성을 줄여 임상 환경에서의 적용 가능성을 높였습니다.
한계점:
구체적인 모델 구조 및 하이퍼파라미터에 대한 상세한 정보가 부족합니다.
평가 지표가 정밀도와 재현율에 국한되어 있으며, 다른 성능 지표를 고려할 필요가 있습니다.
12가지 주요 진단 질환에 대한 결과만 제시되어 일반화 가능성에 대한 추가적인 검증이 필요합니다.
다른 기초 모델 또는 접근 방식과의 비교 분석이 부족합니다.
👍