본 논문은 신경망의 기본 원리와 다양한 응용 분야를 소개하는 입문서입니다. 미분 가능한 프로그래밍의 관점에서 신경망을 설명하며, 자동 미분을 통한 함수 최적화 방법과 시퀀스, 그래프, 텍스트, 오디오 처리를 위한 일반적인 신경망 구조(합성곱, 어텐션, 순환 블록 등)를 직관적으로 설명합니다. PyTorch와 JAX를 활용한 코드 예시를 통해 이론과 실제를 연결하고, 대규모 언어 모델(LLM) 및 다중 모달 아키텍처와 같은 고급 모델에 대한 이해를 돕는 것을 목표로 합니다.
