Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Generative Large Language Models Trained for Detecting Errors in Radiology Reports

Created by
  • Haebom

저자

Cong Sun, Kurt Teichman, Yiliang Zhou, Brian Critelli, David Nauheim, Graham Keir, Xindi Wang, Judy Zhong, Adam E Flanders, George Shih, Yifan Peng

개요

본 연구는 GPT-4를 이용하여 생성된 합성 의료 영상 보고서 데이터셋을 활용하여 의료 보고서 오류 탐지 모델의 성능을 평가한 후향적 연구입니다. 데이터셋은 GPT-4로 생성된 오류 포함/미포함 합성 보고서 1,656건과 MIMIC-CXR 데이터베이스의 실제 보고서 307건 및 그에 대응하는 GPT-4 생성 오류 포함 합성 보고서 307건으로 구성됩니다. 오류는 부정, 좌우, 간격 변화, 전사 오류의 네 가지 유형으로 분류되었고, Llama-3, GPT-4, BiomedBERT 모델을 제로샷 프롬프팅, 퓨샷 프롬프팅, 파인튜닝 전략을 사용하여 학습시켰습니다. 파인튜닝된 Llama-3-70B-Instruct 모델이 가장 우수한 성능을 보였으며, 실제 방사선과 전문의 평가에서도 모델의 오류 탐지 성능이 확인되었습니다.

시사점, 한계점

시사점: 합성 데이터와 실제 의료 데이터를 활용한 파인튜닝을 통해 의료 보고서 오류 탐지 성능을 크게 향상시킬 수 있음을 보여줍니다. 특히, Llama-3-70B-Instruct 모델의 우수한 성능은 대규모 언어 모델의 의료 분야 활용 가능성을 시사합니다. 실제 방사선과 전문의 검증을 통해 모델의 신뢰도를 높였습니다.
한계점: 연구에 사용된 데이터셋의 크기 및 다양성이 제한적일 수 있습니다. 모델의 일반화 성능을 평가하기 위한 추가적인 연구가 필요합니다. 오류 유형 분류의 주관성 및 오류 분류 체계의 한계가 존재할 수 있습니다. 모델의 오류 탐지 성능이 실제 임상 환경에서도 동일하게 유지될지는 추가적인 연구를 통해 검증되어야 합니다.
👍