PULSE-ICU는 재표본 추출이나 수동적인 특징 엔지니어링 없이 대규모 EHR 시퀀스로부터 이벤트 레벨 ICU 표현을 학습하는 자기 지도 학습 기반 파운데이션 모델이다. 통합 임베딩 모듈은 이벤트 ID, 연속 값, 단위 및 시간 속성을 인코딩하며, Longformer 기반 인코더는 긴 궤적의 효율적인 모델링을 가능하게 한다. PULSE-ICU는 사망률, 중재 예측, 표현형 식별 등 18개의 예측 작업에 대해 미세 조정되었으며, 작업 유형 전반에 걸쳐 강력한 성능을 달성했다. eICU, HiRID 및 P12에 대한 외부 검증은 최소한의 미세 조정을 통해 상당한 개선을 보였으며, 도메인 이동 및 가변 제약 조건에 대한 강력함을 입증했다.
