CITE: Anytime-Valid Statistical Inference in LLM Self-Consistency

작성자

Haebom

카테고리

Empty

저자

Hirofumi Ota, Naoto Iwase, Yuki Ichihara, Junpei Komiyama, Masaaki Imaizumi

💡 개요

본 논문은 대규모 언어 모델(LLM)이 여러 출력을 샘플링하고 집계하여 추론 능력을 향상시키는 과정에서 발생하는 오류 수준을 정밀하고 효율적으로 제어하는 문제를 해결합니다. 특히, 데이터에 따라 달라지는 중단 규칙과 미리 알 수 없는 가능한 답변 집합으로 인해 언제 샘플링을 중단해야 할지 결정하는 것이 어렵다는 점에 주목합니다. 이를 위해 본 연구는 CITE(Certification by Intersection-union Testing with E-processes) 알고리즘을 제안하며, 이는 답변 범주 집합에 대한 사전 지식 없이도 임의의 데이터 기반 중단 규칙 하에서 지정된 수준의 잘못된 인증 오류를 제어할 수 있음을 이론적으로 증명합니다.

🔑 시사점 및 한계

•

LLM의 자기 일관성(self-consistency) 추론에서 오류 수준을 제어하는 새로운 이론적 틀을 제공합니다.

•

데이터 기반의 동적인 중단 규칙 하에서도 통계적 인증을 언제든지 유효하게 수행할 수 있는 방법을 제시합니다.

•

제안된 CITE 알고리즘은 답변 범주 집합의 크기에 대한 사전 지식 없이도 효율적인 중단 시간을 보장하며, 기존 방법 대비 성능 향상을 기대할 수 있습니다.

•

이론적인 증명과 함께 시뮬레이션 및 실제 LLM 실험을 통해 제안 방법론의 유효성을 입증했습니다.

•

향후 연구는 더 복잡한 LLM 추론 시나리오 및 다양한 유형의 오류에 대한 적용 범위를 확장하는 방향으로 진행될 수 있습니다.

PDF 보기

Made with Slashpage