본 연구는 대규모 언어 모델(LLM)의 내부 표현 공간에 대한 적대적 입력의 영향을 분석하기 위해 위상적 데이터 분석 도구인 지속적 동형 사상(Persistent Homology, PH)을 제안합니다. 기존의 해석 가능성 방법론이 선형적 방향이나 고립된 특징에 집중하는 한계를 극복하고, 고차원적이고 비선형적인 관계적 기하학을 파악하는 데 중점을 둡니다. 간접 프롬프트 주입과 백도어 미세 조정을 포함한 두 가지 적대적 환경에서 6개의 최첨단 모델을 분석하여 적대적 영향의 일관된 위상적 특징을 식별합니다. 연구 결과는 적대적 입력이 잠재 공간의 "위상적 압축"을 유발하여 구조를 단순화한다는 것을 밝혀냈습니다.
