When Does a Language Model Commit? A Finite-Answer Theory of Pre-Verbalization Commitment

Created by

Haebom

저자

Long Zhang, Wei-neng Chen, Feng-feng Wei, Zi-bo Qin

💡 개요

본 논문은 언어 모델이 최종 답변을 생성하기 전, 언제 답변 선호도가 안정화되는지를 유한한 답변 집합에 대한 모델의 확률 분포를 투영하는 '유한 답변 선호도 안정화'라는 개념을 통해 분석합니다. 제안된 방법론은 파서 기반의 답변 시작 시점, 회고적 안정화 시간, 그리고 선도 시간을 탐색하며, 훈련된 탐색이나 학습된 탐침 없이 작동합니다. 실험 결과, Qwen3-4B-Instruct 모델은 답변이 파싱 가능해지기 전에 선호도 안정화가 이루어지며, 이는 모델의 최종 출력과 상관관계가 있음을 보여줍니다.

🔑 시사점 및 한계

•

언어 모델의 추론 과정에서 답변 선호도가 언제 형성되는지에 대한 정량적인 측정 기준을 제시합니다.

•

모델의 내부 상태와 최종 답변 간의 관계를 이해하고, 모델의 동작을 분석하는 새로운 접근 방식을 제공합니다.

•

제안된 측정 방식이 모델의 실제 출력만을 추적하며, 진실 여부와는 별개로 작동한다는 점은 해석에 유의해야 합니다.

•

정확한 제어와 달리, 국소적인 민감도만 확인할 수 있어 안정적인 생성 제어에는 한계가 있습니다.

PDF 보기

Made with Slashpage