Hyperdimensional Probe: Decoding LLM Representations via Vector Symbolic Architectures
Author
- Haebom
Category
Empty
저자
Marco Bronzini, Carlo Nicolini, Bruno Lepri, Jacopo Staiano, Andrea Passerini
💡 개요
본 연구는 거대 언어 모델(LLM)의 내부 표현을 이해하기 위한 새로운 방법론인 Hyperdimensional Probe를 제안합니다. 이는 벡터 기호 아키텍처(VSA)와 하이퍼벡터 대수를 활용하여 기존의 입력 중심(지도 학습 프로브, SAE) 및 출력 중심(로짓 기반) 해석 방법을 통합합니다. 제안된 방법은 다양한 LLM에서 의미론적 정보를 일관되게 추출하고, 입력-완성 및 질의응답과 같은 시나리오에서 LLM 추론에 대한 개념 중심적인 통찰력을 제공합니다.
🔑 시사점 및 한계
•
LLM 내부 표현에 대한 입력과 출력을 모두 고려하는 통합적인 해석 가능성 제공.
•
기존 방법론(지도 학습 프로브, SAE, 로짓 기반 분석)의 장점을 결합하여 더 깊은 의미론적 분석 가능.
•
VSA 기반 프로빙은 로짓 기반 분석의 어휘 제한을 극복하고 SAE의 노이즈 문제를 완화.
•
향후 연구에서는 다양한 LLM 아키텍처 및 작업에 대한 일반화 성능 검증 필요.
