본 논문은 생명 과학 연구 가속화를 위해 대규모 언어 모델(LLM)을 전문적인 생물의학 지식에 맞추는 데 효과적인 post-training 방법론인 Balanced Fine-Tuning (BFT)를 제안한다. BFT는 희소한 데이터를 통해 복잡한 추론을 학습하도록 설계되었으며, 외부 보상 신호 없이 작동한다. BFT는 토큰 레벨에서 예측 확률을 기반으로 손실을 조정하고, 샘플 레벨에서는 "최소 그룹 신뢰도"를 사용하여 어려운 샘플의 학습을 향상시키는 두 가지 가중치 메커니즘을 사용한다. 실험 결과, BFT는 표준 Supervised Fine-Tuning(SFT)보다 성능이 뛰어나며, 의학 및 생물학적 작업에서 SFT가 놓치는 지식을 습득하고, GeneAgent보다 우수한 성능을 보였다. BFT가 생성한 텍스트 임베딩은 유전자 상호작용 예측 및 단일 세포 섭동 반응 예측과 같은 다운스트림 작업에 직접 적용될 수 있다.
시사점, 한계점
•
시사점:
◦
BFT는 희소한 생물의학 데이터로부터 복잡한 추론을 학습하는 효과적인 방법론을 제시하여 LLM의 생물의학 연구 적용 범위를 넓힘.
