TRACE: Trajectory Correction from Cross-layer Evidence for Hallucination Reduction

작성자

Haebom

카테고리

Empty

저자

Tej Sanibh Ranade

💡 개요

본 논문은 LLM의 환각(hallucination) 현상을 해결하기 위해 기존의 단방향적 접근 방식에서 벗어나, 모델 내부의 여러 계층을 넘나드는 정보 흐름(cross-layer trajectory)을 분석하여 환각을 교정하는 TRACE(Trajectory Correction from Cross-layer Evidence) 알고리즘을 제안한다. TRACE는 학습 과정 없이 추론 시점에 각 입력에 맞는 최적의 교정 계층과 교정 방식을 내부 증거에 기반하여 결정한다. 15개 모델, 8개 모델 계열, 3개의 사실성 벤치마크에서 일관적인 성능 향상을 입증하며, 별도의 학습이나 외부 정보 없이도 강력한 환각 감소 효과를 보여준다.

🔑 시사점 및 한계

•

LLM의 환각 현상이 단일 계층의 문제나 외부 증거에만 의존하는 것이 아니라, 모델 내부 여러 계층 간의 정보 이동 과정에서 발생하고 해결될 수 있음을 보여준다.

•

모델 내부의 정보를 활용하여 학습 없이 추론 시점에 환각을 효과적으로 교정할 수 있는 새로운 방법론을 제시하며, 이는 LLM의 신뢰도를 높이는 데 기여할 수 있다.

•

제안된 TRACE 알고리즘은 다양한 모델과 벤치마크에서 일관된 성능 향상을 보였으나, 모든 종류의 환각 현상에 대해 최적의 성능을 보장한다고 단정하기는 어렵다. 향후 더 복잡하고 다양한 환각 유형에 대한 추가적인 분석 및 개선이 필요할 수 있다.

PDF 보기

Made with Slashpage