Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

EHRStruct: A Comprehensive Benchmark Framework for Evaluating Large Language Models on Structured Electronic Health Record Tasks

Created by
  • Haebom
Category
Empty

저자

Xiao Yang, Xuejiao Zhao, Zhiqi Shen

개요

본 논문은 구조화된 전자 건강 기록(EHR) 데이터에 대한 대규모 언어 모델(LLM)의 성능을 평가하기 위한 벤치마크인 EHRStruct를 소개합니다. EHRStruct는 다양한 임상적 요구를 반영하는 11개의 대표적인 작업을 정의하고, 두 개의 널리 사용되는 EHR 데이터 세트에서 파생된 2,200개의 작업별 평가 샘플을 포함합니다. 본 논문은 20개의 LLM을 EHRStruct를 사용하여 평가하고, 입력 형식, 소수 샷 일반화, 미세 조정 전략과 같은 성능에 영향을 미치는 주요 요인을 분석합니다. 또한, 구조화된 데이터 추론을 위한 11개의 최첨단 LLM 기반 개선 방법과 결과를 비교합니다. 연구 결과는 많은 구조화된 EHR 작업이 LLM의 이해 및 추론 능력에 높은 요구를 한다는 것을 나타냅니다. 더 나아가, 최첨단 성능을 달성하는 코드 증강 방법인 EHRMaster를 제안합니다.

시사점, 한계점

구조화된 EHR 데이터에 대한 LLM 성능을 체계적으로 평가하기 위한 표준화된 벤치마크인 EHRStruct 개발.
다양한 임상적 요구를 포괄하는 11가지 대표적인 작업을 정의하고, 2,200개의 평가 샘플을 제공하여 LLM의 광범위한 평가를 가능하게 함.
다양한 LLM의 성능을 평가하고, 입력 형식, 소수 샷 일반화, 미세 조정 전략 등 성능에 영향을 미치는 주요 요인을 분석하여, LLM의 강점과 약점을 파악.
EHRMaster라는 코드 증강 방법을 제안하여, 최첨단 성능을 달성하고 실제 적용 가능성을 제시.
한계: 논문에서 구체적인 한계는 명시되지 않음.
👍