대규모 언어 모델(LLM)의 환각 현상을 탐지하는 것은 신뢰를 확보하는 데 중요합니다. 토큰 수준의 탐지는 더 세밀한 개입을 가능하게 하지만, 환각 토큰 시퀀스 전반에 걸친 환각 신호의 분포는 아직 연구되지 않았습니다. RAGTruth 코퍼스의 토큰 수준 주석을 활용하여, 최초의 환각 토큰이 이후 토큰보다 훨씬 더 쉽게 탐지된다는 것을 발견했습니다. 이 구조적 특성은 다양한 모델에서 나타나며, 첫 번째 환각 토큰이 토큰 수준 환각 탐지에서 중요한 역할을 한다는 것을 시사합니다.
