본 연구는 사용 기반 구성주의(UCx) 접근 방식을 바탕으로, 대규모 언어 모델(LLM)의 내부 표상이 기능이 포함된 계층적 특성을 반영하는지 조사합니다. Pythia-1.4B 모델을 사용하여 영어의 이중 목적어(DO)와 전치사 목적어(PO) 구문의 표상을 분석했습니다. 인간이 평가한 DO 또는 PO에 대한 선호도 강도를 체계적으로 변화시킨 5000개의 문장 쌍 데이터셋을 활용했습니다. 기하학적 분석 결과, 에너지 거리 또는 Jensen-Shannon 발산으로 측정된 두 구문 표상 간의 분리 가능성은 경사 선호도 강도에 따라 체계적으로 조절되는 것으로 나타났습니다. 즉, 각 구문의 더 전형적인 예시는 활성화 공간에서 더 구별되는 영역을 차지하는 반면, 어느 구문에도 동일하게 나타날 수 있는 문장은 그렇지 않았습니다. 이러한 결과는 LLM이 풍부하고 의미가 포함된 계층적 구문 표상을 학습한다는 증거를 제공하며, LLM의 표상에 대한 기하학적 측정 방식을 뒷받침합니다.