Chain-of-Thought (CoT) 추론은 언어 모델의 성능과 투명성을 향상시켰지만, 부정확한 진술을 포함하여 성능과 신뢰도를 저하시킬 수 있다. 본 논문은 CoT의 각 추론 단계에 잠재적 진실성 변수를 추가하는 것을 제안한다. 또한, 진실성 할당에 대한 이산 탐색 알고리즘인 Veracity Search (VS)를 도입하여 확장된 공간을 효율적으로 탐색한다. VS는 언어 모델의 진실성과 최종 답변에 대한 결합 우도를 프록시 보상으로 활용하여 잠재적 진실성 값에 대한 사후 분포에서 어려운 추론을 수행한다. 이 효율적인 추론 시점 검증 방법은 Amortized Veracity Inference (AVI) 머신의 지도 학습 미세 조정을 용이하게 하며, 진실성에 대한 유사 레이블을 제공한다. AVI는 VS를 일반화하여 새로운 컨텍스트에서 정확한 제로샷 진실성 추론을 가능하게 한다. 실험 결과는 VS가 논리적 (ProntoQA), 수학적 (GSM8K), 상식적 (CommonsenseQA) 추론 벤치마크에서 오류를 신뢰성 있게 식별하고, AVI가 동등한 제로샷 정확도를 달성함을 보여준다. 마지막으로, 잠재적 진실성 추론이 자체 수정 및 자체 개선 과정에서 피드백을 제공하는 데 유용함을 입증한다.
