본 논문은 해밀토니안 역학을 이용하여 언어 모델의 다단계 추론을 분석하는 새로운 방법을 제안한다. 임베딩 공간에서의 추론 과정을 해밀토니안 시스템에 매핑하여, 추론 진행(운동 에너지)과 질문 관련성(퍼텐셜 에너지) 간의 균형을 나타내는 함수를 정의한다. 질의응답 데이터셋의 추론 과정을 분석한 결과, 타당한 추론은 정보 수집과 목표 응답 간의 최적의 절충을 나타내는 더 낮은 해밀토니안 에너지 값을 보이는 것을 발견했다. 이 프레임워크는 복잡한 시각화 및 정량화 방법을 제공하지만, 추론 알고리즘을 "조향"하거나 "개선"하는 주장된 능력은 물리 시스템과 추론 간의 연결이 대부분 비유적인 수준이기 때문에 더 엄격한 실증적 검증이 필요하다. 그럼에도 불구하고, 이 분석은 타당한 추론을 구별하는 일관된 기하학적 패턴을 보여주어, 이 물리학에서 영감을 받은 접근 방식이 유망한 진단 도구와 대규모 언어 모델의 추론 과정에 대한 새로운 관점을 제공함을 시사한다.
