본 논문은 대규모 언어 모델(LLM)의 표상이 인간의 표상과 얼마나 잘 일치하는지 연구하는 새로운 접근 방식을 제시합니다. 활성화 조향(activation steering) 기법을 활용하여 특정 개념(예: "고양이")에 대한 뉴런을 식별하고 해당 활성화 패턴을 분석합니다. 그 결과, 이렇게 포착된 LLM 표상은 행동 데이터로부터 추론된 인간 표상과 매우 유사하며, 인간 간의 일치 수준과 일치함을 보여줍니다. 기존 연구에서 주로 사용되었던 단어 임베딩보다 훨씬 더 높은 수준의 일치를 보이며, LLM이 개념을 인간과 유사한 방식으로 구성하고 있음을 보여줍니다.
시사점, 한계점
•
시사점:
◦
LLM의 표상과 인간의 표상 간의 정렬 수준을 정량적으로 측정하는 새로운 방법 제시.
◦
단어 임베딩보다 더 높은 수준의 LLM과 인간 표상 간의 정렬을 확인.
◦
LLM이 인간과 유사한 방식으로 개념을 조직화하고 있음을 증명.
◦
LLM의 개념 표상에 대한 보다 세분화된 분석 가능.
•
한계점:
◦
활성화 조향 기법에 의존하므로, 특정 개념에 대한 뉴런 식별의 정확성에 대한 검증 필요.
◦
분석 대상이 특정 LLM 및 특정 개념으로 제한될 수 있음. 일반화 가능성에 대한 추가 연구 필요.
