Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Format Inertia: A Failure Mechanism of LLMs in Medical Pre-Consultation

Created by
  • Haebom

저자

Seungseop Lim, Gibaeg Kim, Wooseok Han, Jean Seo, Hyunkyung Lee, Jaehyo Yoo, Eunho Yang

개요

대규모 언어 모델(LLM)의 발전은 챗봇 및 의료 사전 상담 애플리케이션과 같은 다양한 서비스 분야에서 상당한 개선을 가져왔습니다. 의료 분야에서 LLM을 다중 턴 대화 생성에 적응시키는 가장 일반적인 방법은 지도 미세 조정(SFT)입니다. 그러나 의료 사전 상담과 같은 작업의 SFT를 위한 데이터 세트는 일반적으로 턴 수 분포가 불균형합니다. 이러한 데이터에 대한 훈련은 'Format Inertia'라고 하는 새로운 실패 메커니즘을 유발하며, 모델이 긴 의료 대화에서 반복적이고 형식적으로는 정확하지만 진단적으로는 비유익한 질문을 생성하는 경향이 있습니다. 이 실패 메커니즘을 완화하기 위해 훈련 데이터 세트의 턴 수 분포를 재조정하는 간단한 데이터 중심적 방법을 채택했습니다. 실험 결과는 본 연구의 방법이 의료 사전 상담에서 Format Inertia를 실질적으로 완화한다는 것을 보여줍니다.

시사점, 한계점

시사점:
Format Inertia라는 새로운 실패 메커니즘을 식별했습니다.
데이터 중심적 방법으로 Format Inertia를 효과적으로 완화할 수 있음을 입증했습니다.
의료 사전 상담과 같은 다중 턴 대화 시스템의 성능 개선에 기여할 수 있습니다.
한계점:
제안된 방법의 일반화 가능성에 대한 추가 연구가 필요합니다.
다른 실패 메커니즘에 대한 고려는 이루어지지 않았습니다.
단순한 데이터 재조정 외의 다른 개선 방법도 탐구할 필요가 있습니다.
👍