Sign In

FMint-SDE: A Multimodal Foundation Model for Accelerating Numerical Simulation of SDEs via Error Correction

Created by
  • Haebom
Category
Empty

저자

Jiaxin Yuan, Haizhao Yang, Maria Cameron

개요

동역학 시스템의 빠르고 정확한 시뮬레이션은 과학 및 공학 분야에서 근본적인 과제입니다. 기존의 수치 적분기는 정확성과 계산 효율성 사이에서 상충 관계에 직면하는 경우가 많으며, 기존의 신경망 기반 접근 방식은 일반적으로 각 사례에 대해 별도의 모델을 훈련해야 합니다. 이러한 한계를 극복하기 위해, 본 논문에서는 확률 미분 방정식(SDE)의 대규모 시뮬레이션을 위한 새로운 멀티 모달 기반 모델인 FMint-SDE를 소개합니다. In-context learning을 통해 디코더 전용 트랜스포머를 기반으로 하는 FMint-SDE는 수치 및 텍스트 모달리티를 활용하여 범용 오차 보정 방식을 학습합니다. 기존 솔버가 생성한 조대(coarse) 솔루션의 프롬프트 시퀀스를 사용하여 훈련하여 다양한 시스템에 걸쳐 광범위한 일반화를 가능하게 합니다. 분자 역학, 기계 시스템, 금융 및 생물학 분야의 응용 분야를 포괄하는 일련의 까다로운 SDE 벤치마크에서 모델을 평가합니다. 실험 결과는 본 접근 방식이 고전적인 솔버에 비해 우수한 정확성-효율성 트레이드오프를 달성하여, 동역학 시스템을 위한 범용 시뮬레이션 도구로서 FMint-SDE의 잠재력을 보여줍니다.

시사점, 한계점

시사점:
FMint-SDE는 기존 솔버보다 우수한 정확성-효율성 트레이드오프를 달성하여, 동역학 시스템 시뮬레이션의 효율성을 향상시킬 수 있습니다.
다양한 시스템에 걸쳐 일반화를 가능하게 하여, 다양한 응용 분야에서 활용될 수 있는 범용 시뮬레이션 도구로의 가능성을 제시합니다.
In-context learning을 통해 모델을 훈련하여, 각 사례별로 별도의 모델을 훈련해야 하는 기존 방식의 한계를 극복했습니다.
한계점:
논문에서 구체적인 한계점은 명시되지 않았습니다.
👍