Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Tokenization for Molecular Foundation Models

Created by
  • Haebom

저자

Alexius Wadell, Anoushka Bhutani, Venkatasubramanian Viswanathan

개요

본 논문은 분자 과학 및 분자 설계 발전을 가속화하는 분자 기반 모델에서 텍스트 기반 기반 모델의 중요성을 강조합니다. 기존 모델은 분자 공간의 일부만 포착하는 폐쇄형 어휘 토크나이저에 의해 제한됩니다. 본 연구는 19개의 화학 특화 토크나이저를 포함한 34개의 토크나이저를 체계적으로 평가하여 SMILES 분자 표현에 대한 그들의 적용 범위의 상당한 차이를 밝힙니다. 토크나이저 선택의 영향을 평가하기 위해 저비용 프록시로 n-gram 언어 모델을 도입하고, 18개의 RoBERTa 스타일 인코더를 사전 훈련 및 미세 조정하여 분자 특성 예측의 효과를 검증합니다. 기존 토크나이저의 한계를 극복하기 위해 OpenSMILES 사양을 완전히 지원하는 두 개의 새로운 토크나이저인 Smirk 및 Smirk-GPE를 제안합니다. 제안된 토크나이저는 핵, 전자 및 기하학적 자유도를 체계적으로 통합하여 약리학, 농업, 생물학 및 에너지 저장 분야에 응용할 수 있도록 합니다. 연구 결과는 화학 정보학에서 개방형 어휘 모델링과 화학적으로 다양한 벤치마크의 필요성을 강조합니다.

시사점, 한계점

시사점:
SMILES 분자 표현에 대한 기존 토크나이저의 적용 범위 한계를 밝힘.
OpenSMILES 사양을 완전히 지원하는 새로운 토크나이저 (Smirk, Smirk-GPE) 제안.
n-gram 언어 모델을 저비용 프록시로 활용하여 토크나이저 선택의 영향 평가.
화학 정보학에서 개방형 어휘 모델링 및 화학적으로 다양한 벤치마크의 중요성 강조.
약리학, 농업, 생물학, 에너지 저장 등 다양한 분야에 적용 가능성 제시.
한계점:
제안된 토크나이저의 성능이 다른 고급 토크나이저에 비해 얼마나 우수한지에 대한 추가적인 비교 분석 필요.
다양한 분자 유형 및 크기에 대한 일반화 성능에 대한 추가적인 연구 필요.
실제 응용 분야에서의 성능 평가 및 검증이 부족.
👍