본 논문은 질병 진단을 위한 해석 가능한 인공지능 모델 ClinRaGen을 제안합니다. 기존의 대규모 언어 모델(LLM)은 높은 계산 비용과 제한적인 다중 모달 추론 능력으로 인해 임상적 활용에 어려움이 있고, 소규모 언어 모델(SLM)은 효율적이지만 다중 모달 의료 데이터 통합을 위한 고급 추론 능력이 부족합니다. ClinRaGen은 지식 증강과 LLM 기반 추론 증류를 통해 SLM의 다중 모달 추론 능력을 향상시켜 해석 가능성을 높였습니다. 순차적 추론 증류 프레임워크와 지식 증강 어텐션 메커니즘을 통해 시계열 및 텍스트 데이터의 다중 모달 표현을 통합하고, 신뢰할 수 있는 추론을 위한 도메인 지식을 통합합니다. 실제 의료 데이터셋 실험 결과, ClinRaGen은 질병 진단 및 추론 생성에서 최첨단 성능을 달성했습니다.
시사점, 한계점
•
시사점:
◦
LLM의 강력한 추론 능력을 SLM에 효율적으로 적용하여 해석 가능성과 성능을 동시에 향상시킬 수 있는 새로운 방법 제시.
◦
다중 모달 의료 데이터(시계열 및 텍스트 데이터)를 효과적으로 통합하고 해석 가능한 추론을 생성하는 기술 개발.
