본 논문은 동적 다양체 진화 이론(DMET)을 소개합니다. DMET는 저차원 의미 다양체 상에서 진화하는 제어된 동역학 시스템으로서 대규모 언어 모델 생성을 모델링하는 통합 프레임워크입니다. 잠재 상태 업데이트를 연속 동역학의 이산 시간 오일러 근사로 취급하여 고유 에너지 기반 흐름과 맥락 의존적인 힘을 트랜스포머 구성 요소(잔차 연결, 어텐션, 피드포워드 네트워크)에 매핑합니다. 랴푸노프 안정성 이론을 활용하여 잠재 경로 특성을 텍스트 유창성, 문법성 및 의미 일관성과 정량적으로 연결하는 세 가지 경험적 지표(상태 연속성, 클러스터링 품질, 위상 지속성)를 정의합니다. 디코딩 매개변수에 대한 광범위한 실험을 통해 DMET의 예측을 검증하고 텍스트 생성에서 창의성과 일관성의 균형을 맞추기 위한 원칙적인 지침을 제시합니다.
