Ultrasound Report Generation with Multimodal Large Language Models for Standardized Texts
Created by
Haebom
저자
Peixuan Ge, Tongkun Su, Faqin Lv, Baoliang Zhao, Peng Zhang, Chi Hong Wong, Liang Yao, Yu Sun, Zenan Wang, Pak Kin Wong, Ying Hu
개요
본 논문은 초음파 영상의 다양성, 의사의 의존성, 표준화된 텍스트의 필요성으로 인해 어려운 초음파 보고서 생성을 위한 통합 프레임워크를 제안한다. X선이나 CT와 달리 초음파 영상은 일관된 데이터셋이 부족하여 자동화가 어렵다. 본 연구는 조각 기반 다국어 훈련을 통합하고 초음파 보고서의 표준화된 특성을 활용하여 다기관 및 다국어 초음파 보고서 생성을 위한 통합 프레임워크를 제시한다. 다양한 영상 데이터와 모듈식 텍스트 조각을 정렬하고 영어-중국어 이중 언어 데이터셋을 기반으로 기관 부위와 언어에 걸쳐 일관되고 임상적으로 정확한 텍스트 생성을 달성한다. Vision Transformer (ViT)의 선택적 해동을 통한 미세 조정을 통해 텍스트-이미지 정렬을 더욱 개선한다. 기존 최첨단 KMVE 방법과 비교하여 BLEU 점수는 약 2%, ROUGE-L은 약 3%, CIDEr은 약 15% 향상되었으며, 누락되거나 잘못된 콘텐츠와 같은 오류가 크게 감소되었다. 다기관 및 다국어 보고서 생성을 단일 확장 가능한 프레임워크로 통합함으로써 실제 임상 워크플로우에 대한 강력한 잠재력을 보여준다.