Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Mapping Clinical Doubt: Locating Linguistic Uncertainty in LLMs

Created by
  • Haebom
Category
Empty

저자

Srivarshinee Sridhar, Raghav Kaushik Ravi, Kripabandhu Ghosh

개요

본 논문은 대규모 언어 모델(LLM)이 의료 환경에서 텍스트의 불확실성에 어떻게 반응하는지, 특히 입력 측면에서 불확실성이 어떻게 모델 내부에 표현되는지를 연구합니다. 모델의 출력 신뢰도를 측정하는 불확실성 정량화와는 달리, 본 연구는 의료 텍스트에서 불확실성 신호에 대한 입력 측면의 민감성을 조사합니다. 이를 위해, 다양한 불확실성 양상(예: '과 일치한다' vs. '과 일치할 수 있다')을 가진 의료 진술문 데이터셋을 구축하고, 모델의 활성화 수준 변화를 정량화하는 계층별 프로빙 지표인 MSU(Model Sensitivity to Uncertainty)를 제안합니다. 연구 결과 LLM이 임상적 불확실성에 대해 구조화되고 깊이에 따라 달라지는 민감도를 보이며, 이는 불확실성 정보가 깊은 계층에서 점진적으로 인코딩됨을 시사합니다.

시사점, 한계점

시사점:
LLM이 의료 텍스트의 불확실성 신호에 민감하게 반응한다는 것을 보여줌.
불확실성 정보가 LLM의 깊은 계층에서 점진적으로 인코딩됨을 확인함.
LLM의 해석 가능성 및 인식적 신뢰도에 대한 통찰력을 제공.
한계점:
구체적인 한계점은 논문 요약에서 명시되지 않음. (논문에 직접 언급되지 않음)
👍