Addressing Logical Fallacies In Scientific Reasoning From Large Language Models: Towards a Dual-Inference Training Framework
Created by
Haebom
Category
Empty
저자
Peter B. Walker, Hannah Davidson, Aiden Foster, Matthew Lienert, Thomas Pardue, Dale Russell
개요
대규모 언어 모델(LLM)은 자연어 처리를 혁신했지만, 긍정 기반 추론에 지배되어 논리적 오류, 적대적 조작, 인과 추론 실패에 취약하다. 본 논문은 주요 플랫폼의 기존 LLM이 부정, 반례, 또는 결함 있는 전제 조건으로 과학적 영역에서 추론할 때 체계적인 약점을 보임을 보여준다. 또한, 긍정적 생성을 구조화된 반사실적 부정을 통합하는 이중 추론 훈련 프레임워크를 소개한다. 이 프레임워크는 논리적 오류를 식별하고 강건성을 향상시킨다.
시사점, 한계점
•
시사점:
◦
기존 LLM의 부정, 반례, 결함 있는 전제 조건에서의 약점 확인.
◦
이중 추론 훈련 프레임워크를 통해 강건성, 해석 가능성, 인간 추론과 일치하는 모델 개발 가능성 제시.
