Biology-Instructions: A Dataset and Benchmark for Multi-Omics Sequence Understanding Capability of Large Language Models
Created by
Haebom
저자
Haonan He, Yuchen Ren, Yining Tang, Ziyang Xu, Junxian Li, Minghao Yang, Di Zhang, Dong Yuan, Tao Chen, Shufei Zhang, Yuqiang Li, Nanqing Dong, Wanli Ouyang, Dongzhan Zhou, Peng Ye
개요
본 논문은 다중체학 생물학 분야에 대한 대규모 언어 모델(LLM)의 적용을 확장하기 위해, DNA, RNA, 단백질 및 다중 분자를 포함하는 다중체학 생물학적 서열을 위한 최초의 대규모 instruction-tuning 데이터셋인 Biology-Instructions를 소개합니다. 이 데이터셋은 LLM과 복잡한 생물학적 서열 관련 작업 간의 연결을 구축하여 대화의 유창성을 유지하면서 LLM의 다양성과 추론 능력을 향상시킵니다. 또한, 특수 훈련 없이 다중체학 작업에 대한 최첨단 LLM의 상당한 한계를 강조하고, 이를 극복하기 위해 새로운 3단계 훈련 파이프라인을 갖춘 강력한 기준 모델인 ChatMultiOmics를 제안합니다. Biology-Instructions와 ChatMultiOmics는 모두 공개적으로 이용 가능하며, 다중체학 분석에서 LLM의 통합을 개선하는 길을 열어줍니다.
시사점, 한계점
•
시사점:
◦
다중체학 생물학적 서열을 위한 최초의 대규모 instruction-tuning 데이터셋인 Biology-Instructions 제공.
◦
다중체학 작업에서 LLM의 생물학적 이해 향상을 위한 새로운 3단계 훈련 파이프라인을 갖춘 ChatMultiOmics 모델 제안.
◦
LLM을 다중체학 분석에 효과적으로 통합하는 데 기여.
◦
Biology-Instructions 및 ChatMultiOmics의 공개를 통한 연구 확장 가능성 증대.
•
한계점:
◦
특수 훈련 없이 다중체학 작업에 대한 최첨단 LLM의 성능 제한에 대한 명확한 정량적 분석 부족.
◦
ChatMultiOmics 모델의 성능 평가에 대한 자세한 정보 부족 (예: 특정 지표, 비교 대상 모델).
◦
Biology-Instructions 데이터셋의 규모 및 다양성에 대한 자세한 설명 부족.
