Logic-Regularized Verifier Elicits Reasoning from LLMs

작성자

Haebom

카테고리

Empty

저자

Xinyu Wang, Changzhi Sun, Lian Cheng, Yuanbin Wu, Dell Zhang, Xiaoling Wang, Xuelong Li

💡 개요

본 논문은 LLM의 추론 능력을 향상시키기 위한 새로운 방식인 LOVER(Logic-Regularized Verifier)을 제안합니다. LOVER는 라벨링된 데이터 구축에 드는 비용과 다양성 문제를 해결하기 위해, 논리 규칙으로 정규화된 지도 학습 없는(unsupervised) 검증 방식을 사용합니다. 이는 세 가지 논리적 일관성(부정, 그룹 내, 그룹 간)을 통해 다중 추론 경로에서 검증기의 동작을 제약하며, 기존 지도 학습 검증기의 95% 수준에 달하는 성능을 보여줍니다.

🔑 시사점 및 한계

•

지도 학습 데이터 구축의 부담 없이 LLM의 추론 능력을 효과적으로 향상시킬 수 있는 새로운 방향을 제시합니다.

•

논리 규칙을 사전 정보로 활용함으로써, 검증 과정에서 더욱 견고하고 일관적인 추론을 유도할 수 있습니다.

•

모든 종류의 오프더셸(off-the-shelf) LLM과 직접적으로 호환되어 활용성이 높습니다.

•

논리 규칙의 표현 및 적용 범위를 더욱 확장하고, 다양한 종류의 추론 문제에 대한 LOVER의 일반화 성능을 추가적으로 검증할 필요가 있습니다.

PDF 보기

Made with Slashpage