How do LLMs Compute Verbal Confidence

작성자

Haebom

카테고리

Empty

저자

Dharshan Kumaran, Arthur Conmy, Federico Barbero, Simon Osindero, Viorica Patraucean, Petar Veli\v{c}kovic

💡 개요

이 논문은 대규모 언어 모델(LLM)이 어떻게 언어적 확신(verbal confidence)을 계산하는지에 대한 근본적인 질문을 탐구합니다. 연구진은 Gemma 3, Qwen 2.5, Magistral Small 등 다양한 LLM을 대상으로 실험한 결과, LLM이 답변 생성 시점에 즉각적으로 확신을 계산하는 것이 아니라, 답변과 관련된 위치에 해당 정보를 미리 캐싱한 후 필요할 때 검색하여 제시한다는 것을 밝혀냈습니다. 또한, 이러한 캐싱된 정보는 단순한 토큰 로그 확률 이상의 복잡한 답변 품질 평가를 반영함을 시사합니다.

🔑 시사점 및 한계

•

LLM의 언어적 확신은 답변 생성 과정 중 자동적으로 이루어지며, 이는 단순한 사후 생성(post-hoc reconstruction)이 아닌 정교한 자체 평가 과정의 일부입니다.

•

LLM의 메타인지 능력을 이해하고 모델의 보정(calibration)을 개선하는 데 중요한 통찰을 제공합니다.

•

연구는 특정 LLM 모델과 데이터셋에 집중되었으므로, 더 넓은 범위의 모델과 작업에 대한 추가 연구가 필요합니다.

PDF 보기

Made with Slashpage