본 논문은 대규모 언어 모델(LLM)이 표현 공간을 통해 어떻게 '생각'하는지 연구한다. 논문은 LLM의 추론을 논리가 전개되는 임베딩 궤적인 흐름으로 모델링하는 새로운 기하학적 프레임워크를 제안한다. 다양한 의미론적 캐리어를 사용하여 동일한 자연 연역 명제를 적용하여 논리 구조를 의미론에서 분리함으로써, LLM이 표면적인 형태를 넘어 논리를 내면화하는지 테스트한다. 이 관점은 추론을 위치, 속도, 곡률과 같은 기하학적 양과 연결하여 표현 및 개념 공간에서 형식적 분석을 가능하게 한다. 본 이론은 (1) LLM 추론이 표현 공간에서 부드러운 흐름에 해당하고, (2) 논리적 진술이 이러한 흐름의 속도를 제어하는 국소적 제어기의 역할을 한다는 것을 밝힌다. 학습된 표현 프록시를 사용하여 추론 흐름을 시각화하고 정량화하기 위한 제어된 실험을 설계하여 이론적 프레임워크에 대한 경험적 검증을 제공한다.
