Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Affective-ROPTester: Capability and Bias Analysis of LLMs in Predicting Retinopathy of Prematurity

Created by
  • Haebom

저자

Shuai Zhao, Yulin Zhang, Luwei Xiao, Xinyi Wu, Yanhao Jia, Zhongliang Guo, Xiaobao Wu, Cong-Duy Nguyen, Guoming Zhang, Anh Tuan Luu

개요

본 논문은 대규모 언어 모델(LLM)의 미숙아 망막병증(ROP) 위험 예측 능력을 평가하기 위해 중국어 ROP 데이터셋(CROP)을 제시하고, 세 가지 프롬프트 전략(Instruction-based, Chain-of-Thought, In-Context Learning)을 활용한 자동 평가 프레임워크 Affective-ROPTester를 개발했습니다. CROP 데이터셋은 993개의 입원 기록으로 구성되며, LLM의 예측 성능과 감정적 편향을 체계적으로 분석하기 위해 감정적 요소를 프롬프트에 통합했습니다. 실험 결과, LLM은 내재적 지식만으로는 ROP 위험 예측에 제한적인 효과를 보였지만, 외부 구조화된 입력을 활용하면 성능이 크게 향상됨을 확인했습니다. 또한, 모델 출력에서 중간 및 고위험군을 과대평가하는 감정적 편향이 존재하며, 긍정적 감정 프레이밍이 부정적 감정 프레이밍보다 예측 편향을 완화하는 데 기여함을 발견했습니다.

시사점, 한계점

시사점:
LLM의 ROP 위험 예측 성능 향상을 위해서는 외부 의료 지식 활용이 필수적임을 보여줌.
감정적으로 편향된 프롬프트가 LLM의 예측 결과에 영향을 미침을 밝힘.
긍정적 감정 프레이밍을 통해 LLM의 예측 편향을 완화할 수 있음을 제시.
Affective-ROPTester는 임상 언어 모델의 감정적 편향을 평가하고 완화하는 유용한 프레임워크임을 증명.
한계점:
CROP 데이터셋이 중국어 기반이므로 다른 언어로의 일반화 가능성에 대한 추가 연구 필요.
본 연구에서 사용된 LLM의 종류와 크기가 제한적이므로 다양한 LLM에 대한 추가 연구 필요.
감정적 프레이밍의 영향에 대한 메커니즘에 대한 추가적인 연구가 필요.
👍