Deep Neural Networks as Discrete Dynamical Systems: Implications for Physics-Informed Learning

작성자

Haebom

카테고리

Empty

저자

Abhisek Ganguly, Santosh Ansumali, Sauro Succi

💡 개요

본 연구는 순방향 심층 신경망(DNN)을 신경 적분 방정식에서 파생된 이산 동적 시스템으로 재조명하고, 물리 정보 학습(PINNs)과의 비교 분석을 수행합니다. PINNs 학습은 기존 수치적 이산화와는 다른 계산 경로를 통해 시스템의 근본적인 동역학을 근사하며, DNN은 층별 진화가 끌개(attractor)에 수렴하는 이산 동적 시스템으로 해석될 수 있음을 보여줍니다.

🔑 시사점 및 한계

•

DNN은 이산 동적 시스템으로 해석될 수 있으며, 여러 매개변수 설정이 유사한 해를 생성할 수 있어 역변환의 퇴화성을 반영합니다.

•

PINNs는 고전적인 이산화 방식과 달리 밀집된 매개변수 표현을 학습하며, 이는 고차원 문제에서 기존 격자 기반 방법의 비현실성을 극복할 수 있는 잠재적 이점을 제공합니다.

•

DNN의 밀집된 표현은 해석 가능성을 낮추고 계산 비용을 증가시키며, 이는 향후 연구에서 해결해야 할 과제입니다.

PDF 보기

Made with Slashpage