Sign In

Are LLMs Truly Multilingual? Exploring Zero-Shot Multilingual Capability of LLMs for Information Retrieval: An Italian Healthcare Use Case

Created by
  • Haebom
Category
Empty

저자

Vignesh Kumar Kembu, Pierandrea Morandini, Marta Bianca Maria Ranzini, Antonino Nocera

개요

본 논문은 오픈소스 다국어 대규모 언어 모델(LLM)이 이탈리아어 전자 건강 기록(EHR)을 이해하고 실시간으로 정보를 추출하는 능력을 탐구합니다. 특히, 동반 질환 추출에 대한 실험을 통해 LLM의 성능을 평가했습니다. 연구 결과, 일부 LLM은 제로샷, 온프레미스 환경에서 어려움을 겪었으며, 다양한 질병에 걸쳐 일반화하는 데 어려움을 보였습니다.

시사점, 한계점

LLM은 디지털 헬스케어 분야에서 EHR 정보 추출에 잠재력이 있으나, 아직 한계가 존재합니다.
제로샷 학습 환경에서 LLM의 성능이 저조할 수 있습니다.
다양한 질병에 걸쳐 일반화하는 능력에 대한 개선이 필요합니다.
온프레미스 환경에서의 성능 또한 향상되어야 합니다.
네이티브 패턴 매칭 및 수동 주석보다 성능이 낮을 수 있습니다.
👍