본 논문은 대규모 언어 모델(LLM)의 내부 작동 방식을 탐구하는 기계적 해석 가능성(MI) 분야의 최근 연구 결과를 종합적으로 제시하며, LLM이 단순히 표면적인 통계에만 의존한다는 기존 견해에 이의를 제기합니다. LLM이 연결을 파악하는 것과 기능적으로 유사한 내부 구조를 개발한다고 주장하며, 이를 뒷받침하기 위해 이해의 3단계 개념(개념적 이해, 세계 상태 이해, 원칙적 이해)을 제안합니다. 하지만 "병렬 메커니즘" 현상을 통해 LLM의 이해가 인간의 이해와는 근본적으로 다르다는 점을 강조하며, LLM이 이해하는지 여부에 대한 단순한 긍정/부정 논쟁을 넘어, LLM의 독특한 작동 방식을 연구하고 이에 맞는 개념을 형성해야 함을 결론짓습니다.
