Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

The Alignment Paradox of Medical Large Language Models in Infertility Care: Decoupling Algorithmic Improvement from Clinical Decision-making Quality

Created by
  • Haebom
Category
Empty

저자

Dou Liu, Ying Long, Sophia Zuoqiu, Kaipeng Xie, Runze Yang, Di Liu, Kang Li, Yiting Lin, Hanyi Liu, Rong Yin, Tian Tang

개요

본 논문은 대규모 언어 모델(LLM)을 임상 의사 결정 지원에 활용하는 과정에서, 실제 의료 환경의 복잡한 추론 과정에 모델을 맞추는 것이 어려운 과제임을 지적합니다. 8,000개 이상의 불임 치료 기록을 사용하여, Supervised Fine-Tuning (SFT), Direct Preference Optimization (DPO), Group Relative Policy Optimization (GRPO), In-Context Learning (ICL)의 4가지 정렬 전략을 자동 벤치마크와 블라인드 의사 참여 평가를 결합한 이중 계층 프레임워크를 통해 체계적으로 평가했습니다. GRPO가 여러 결정 계층에서 가장 높은 알고리즘 정확도를 달성했지만, 임상의들은 더 명확한 추론 과정과 높은 치료 가능성을 이유로 SFT 모델을 선호했습니다. 블라인드 쌍 비교에서 SFT는 가장 높은 승률을 보였으며, GRPO 및 의사들의 원래 결정보다 우수한 결과를 보였습니다. 이러한 결과는 알고리즘 개선이 반드시 높은 임상적 신뢰로 이어지지 않으며, 인간 중심적 선호와 일치하지 않을 수 있음을 보여줍니다.

시사점, 한계점

시사점:
알고리즘 정확도 향상이 임상적 신뢰로 반드시 이어지지는 않음.
임상 적용 가능성과 해석 가능성을 우선시하는 정렬 전략의 필요성 강조.
SFT 모델이 임상의 선호도와 치료 가능성 측면에서 우수한 결과를 보임.
한계점:
알 수 없음 (논문에서 명시된 한계점 정보가 없음)
👍