UniGenX: a unified generative foundation model that couples sequence, structure and function to accelerate scientific design across proteins, molecules and materials
Created by
Haebom
저자
Gongbo Zhang, Yanting Li, Renqian Luo, Pipi Hu, Yang Yang, Zeru Zhao, Lingbo Li, Guoqing Liu, Zun Wang, Ran Bi, Kaiyuan Gao, Liya Guo, Yu Xie, Chang Liu, Jia Zhang, Tian Xie, Robert Pinsler, Claudio Zeni, Ziheng Lu, Hongxia Hao, Yingce Xia, Marwin Segler, Maik Riechert, Wei Yang, Hao Jiang, Wen-Bin Zhang, Zhijun Zeng, Yi Zhu, Li Dong, Xiuyuan Hu, Li Yuan, Lei Chen, Haiguang Liu, Tao Qin
개요
UniGenX는 단백질, 분자, 재료 등 다양한 영역에서 기능과 특성을 직접 목표로 하여 1차원 서열과 3차원 좌표를 공동 생성하는 통합적 생성 기초 모델입니다. 기존 생성 모델의 한계점인 기능에 대한 직접적인 목표 설정 부재, 이산 서열과 연속 좌표의 독립적 최적화, 그리고 형태적 앙상블의 부족한 모델링을 해결하기 위해, 기호 및 숫자 토큰의 혼합 스트림으로 이질적인 입력을 표현하고, 디코더 전용 자기회귀 트랜스포머를 통해 전역 컨텍스트를 제공하며, 조건부 확산 헤드를 통해 특정 작업 토큰에 의해 제어되는 숫자 필드를 생성합니다. 구조 예측 작업에서 새로운 최고 성능을 달성했을 뿐만 아니라, 재료, 화학, 생물학 분야에서 기능 인식 생성에 대한 최첨단 또는 경쟁력 있는 성능을 보여줍니다. 특히 재료 분야에서는 세 가지 제약 조건을 충족하는 436개의 결정 후보를 생성하고(그중 11개는 새로운 조성), 화학 분야에서는 5개의 특성 목표와 GEOM에서의 입체 이성질체 앙상블 생성에 대한 새로운 기준을 설정했으며, 생물학 분야에서는 단백질 유도 적합 모델링의 성공률을 23배 이상 향상시켰습니다. 결론적으로, 이산-연속 공동 훈련의 이점을 입증하는 실험 결과와 도메인 간 전이 학습을 통해 예측에서 제어 가능하고 기능 인식 생성으로의 중요한 발전을 이루었습니다.
시사점, 한계점
•
시사점:
◦
단백질, 분자, 재료 등 다양한 영역에서 기능과 특성을 직접 목표로 하는 통합적 생성 모델을 제시.
◦
기존 모델의 한계점인 기능에 대한 직접적인 목표 설정 부재, 이산 서열과 연속 좌표의 독립적 최적화, 형태적 앙상블의 부족한 모델링 문제 해결.
◦
구조 예측 및 기능 인식 생성 작업에서 최첨단 또는 경쟁력 있는 성능 달성.
◦
재료, 화학, 생물학 분야에서 괄목할 만한 성능 향상 (예: 단백질 유도 적합 모델링 성공률 23배 이상 향상).
◦
이산-연속 공동 훈련의 효과를 실험적으로 입증.
◦
도메인 간 전이 학습 가능성을 보여줌.
•
한계점:
◦
논문에서는 구체적인 한계점이 언급되지 않았습니다. 향후 연구를 통해 모델의 성능 개선 및 적용 범위 확장이 필요할 것으로 예상됩니다.
