Rethinking Text-based Protein Understanding: Retrieval or LLM?
Created by
Haebom
저자
Juntong Wu, Zijing Liu, He Cao, Hao Li, Bin Feng, Zishan Shu, Ke Yu, Li Yuan, Yu Li
개요
본 논문은 단백질 생성 및 이해를 위한 단백질-텍스트 모델의 잠재력에 주목하여 기존 접근 방식의 문제점을 지적하고 새로운 평가 프레임워크와 개선된 방법을 제시합니다. 기존 단백질-텍스트 모델은 대규모 언어 모델에 단백질 관련 지식을 통합하는 데 초점을 맞추지만, 기존 벤치마크의 데이터 유출 문제와 자연어 처리 기반 평가 지표의 부적합성을 지적합니다. 이를 해결하기 위해 기존 데이터셋을 재구성하고 생물학적 개체 기반의 새로운 평가 프레임워크를 제안합니다. 또한, 검색 기반 강화 방법을 제안하여 미세 조정된 대규모 언어 모델보다 단백질-텍스트 생성 성능이 뛰어나고, 학습이 필요 없는 상황에서도 정확성과 효율성을 보임을 보여줍니다. 소스 코드와 데이터는 https://github.com/IDEA-XL/RAPM 에서 확인할 수 있습니다.
