Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Follow My Lead: Logical Fallacy Classification with Knowledge-Augmented LLMs

Created by
  • Haebom

저자

Olivia Peiyu Wang, Tashvi Bansal, Ryan Bai, Emily M. Chui, Leilani H. Gilpin

개요

대규모 언어 모델(LLM)은 환각 경향과 논리적 오류 분류 정확도 저하 등 심각한 추론 능력 격차를 보인다. 이는 빠르고 직관적인 시스템 1 처리를 기본으로 하기 때문이며, 신뢰할 수 있는 추론에는 의도적이고 노력이 필요한 시스템 2 접근 방식이 필요하다. 본 연구는 시스템 2 전체 훈련의 높은 비용 문제를 해결하기 위해, 저비용의 지시 기반 개입 방안을 모색한다. 논리적 오류 분류를 일련의 원자적 절차 단계(단순 이진 질문)로 분해하는 새로운 단계별 지시 데이터 세트를 도입하고, 관련 오류의 관계 지식 그래프를 참조하는 최종 검증 단계를 추가한다. 이러한 절차적이고 규칙 기반의 개입은 LLM의 논리적 오류 분류를 크게 향상시켰다.

시사점, 한계점

시사점:
LLM의 논리적 오류 분류 능력 향상
LLM 의사 결정 과정의 투명성 증가
신경-기호 아키텍처를 통한 LLM 추론 결함 해결 가능성 제시
한계점:
전체 시스템 2 훈련의 대체재로서의 성능 한계 존재 가능성
지시 데이터 세트의 구성 방식 및 품질에 따른 성능 편차 가능성
지식 그래프의 완전성 및 정확성에 대한 의존성
👍