Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

FORT: Forward-Only Regression Training of Normalizing Flows

Created by
  • Haebom

저자

Danyal Rehman, Oscar Davis, Jiarui Lu, Jian Tang, Michael Bronstein, Yoshua Bengio, Alexander Tong, Avishek Joey Bose

개요

본 논문은 기존의 최대우도 추정 방식의 한계를 극복하고, 고품질 샘플 생성 및 정확한 우도 계산을 위한 확장 가능한 새로운 훈련 목표인 Forward-Only Regression Training (FORT)을 제안합니다. FORT는 변수 변환 공식 계산 없이 prior 샘플을 특정 타겟에 매핑하는 간단한 $\ell_2$-regression 목표 함수를 사용하며, optimal transport 타겟이나 사전 훈련된 연속 시간 정규화 흐름(CNF)과 같은 다양한 타겟을 지원합니다. 특히 CNF 타겟을 사용하여 기존 최대우도 추정 방식보다 성능과 안정성이 향상된 대규모 훈련을 가능하게 하며, 이전에는 훈련이 어려웠던 다양한 아키텍처를 활용할 수 있도록 합니다. 알라닌 이펩타이드, 삼펩타이드, 사펩타이드의 균형 상태 시뮬레이션을 통해 제안된 방법의 효과를 실험적으로 검증합니다.

시사점, 한계점

•
시사점:
◦
변수 변환 공식 계산 없이 정확한 우도를 가진 고품질 샘플 생성 가능
◦
기존 최대우도 추정 방식보다 확장성이 뛰어나고 안정적인 대규모 훈련 가능
◦
다양한 아키텍처 적용 가능
◦
분자 시스템의 균형 상태 샘플링 등 과학적 응용 분야에 활용 가능
•
한계점:
◦
FORT의 성능이 타겟 선택에 얼마나 민감한지에 대한 추가적인 분석 필요
◦
다양한 분자 시스템에 대한 일반화 성능 평가 필요
◦
제안된 방법의 계산 비용에 대한 상세한 분석 필요
👍
Made with Slashpage