Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Reinforcement Learning for Out-of-Distribution Reasoning in LLMs: An Empirical Study on Diagnosis-Related Group Coding

Created by
  • Haebom

저자

Hanyin Wang, Zhenbang Wu, Gururaj Kolar, Hariprasad Korsapati, Brian Bartlett, Bryan Hull, Jimeng Sun

개요

본 논문은 진단 관련 그룹(DRG) 코드 자동 할당을 위한 대규모 강화 학습 모델인 DRG-Sapphire를 제시합니다. 기존의 대규모 언어 모델(LLM)이 의료 데이터 부족으로 DRG 코딩에 어려움을 겪는 점을 해결하기 위해, Qwen2.5-7B를 기반으로 그룹 상대 정책 최적화(GRPO)와 규칙 기반 보상을 사용하여 학습되었습니다. MIMIC-IV 벤치마크에서 최첨단 정확도를 달성하였으며, 의사가 검증한 추론 과정을 생성하여 설명 가능성을 높였습니다. 또한, 지식 집약적이고 분포 외(OOD) 작업에 강화 학습을 적용하는 데 대한 광범위한 과제를 조명하고, 강화 학습 성능이 감독식 미세 조정(SFT) 예제 수의 로그에 따라 선형적으로 증가함을 관찰하여, OOD 작업에서 강력한 강화 학습 성능을 위해서는 RL 이전에 충분한 지식 주입이 필요함을 시사합니다.

시사점, 한계점

시사점:
대규모 강화 학습을 이용한 DRG 자동 코딩 시스템 개발 및 우수한 성능 검증.
의사 검증 추론 과정 생성을 통한 설명 가능성 향상.
OOD 작업에서 강화 학습의 효과적인 적용 방안 제시 (SFT의 중요성 강조).
지식 집약적 OOD 작업에 대한 강화 학습 적용의 한계점과 해결 방안 모색.
한계점:
강화 학습 성능이 감독식 미세 조정(SFT) 데이터 양에 의존적인 점.
실제 의료 현장 적용을 위한 추가적인 검증 및 안정성 확보 필요.
다양한 의료 데이터셋에 대한 일반화 성능 평가 필요.
👍