본 논문은 사전 훈련된 서열 기반 단백질 언어 모델을 사용하여 다중 모드 미세 조정을 수행하는 InstructPLM-mu 프레임워크를 제안하고, 처음부터 훈련된 모델의 성능에 필적할 수 있는지 여부를 연구한다. 실험 결과, 구조적 입력을 사용하여 ESM2를 미세 조정하면 ESM3와 유사한 성능을 달성할 수 있음을 확인했다. 세 가지 다른 특징 융합 설계와 미세 조정 방식을 비교 분석하여 성능에 미치는 영향을 파악했으며, 융합 방법과 튜닝 전략 모두 최종 정확도에 큰 영향을 미친다는 것을 발견했다.
시사점, 한계점
•
사전 훈련된 서열 기반 모델의 다중 모드 미세 조정을 통해 계산 비용을 절감하면서도 경쟁력 있는 성능을 달성할 수 있음을 입증했다.
•
융합 방법과 미세 조정 전략이 성능에 중요한 영향을 미친다는 점을 확인하여, 다중 모드 모델 구축 시 고려해야 할 사항을 제시했다.
