Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

ARCHE: A Novel Task to Evaluate LLMs on Latent Reasoning Chain Extraction

Created by
  • Haebom
Category
Empty

저자

Pengze Li, Jiaqi Liu, Junchi Yu, Lihao Liu, Mingyu Ding, Wanli Ouyang, Shixiang Tang, Xi Chen

개요

본 논문은 대규모 언어 모델(LLM)이 과학 분야에서 활용되는 가운데, 모델이 과학적 추론의 근본적인 패러다임을 진정으로 이해하는지 파악하기 위해 Latent Reasoning Chain Extraction (ARCHE)이라는 새로운 과제를 제시합니다. ARCHE는 복잡한 추론을 Reasoning Logic Tree (RLT) 형태로 변환하여 모델이 Peirce의 추론 방식을 기반으로 한 추론 단계를 명확하게 분류하도록 합니다. 이를 위해, 70개의 Nature Communications 논문을 기반으로 한 ARCHE Bench를 공개하고, Entity Coverage (EC)와 Reasoning Edge Accuracy (REA)라는 두 가지 평가 지표를 제안합니다. ARCHE Bench에 대한 10개의 LLM 평가 결과, 모델들이 REA와 EC 간의 트레이드오프를 보였으며, 완전하고 표준화된 추론 체인을 추출하는 데 어려움을 겪는다는 것을 확인했습니다.

시사점, 한계점

시사점:
과학적 추론 능력 평가를 위한 새로운 과제 및 벤치마크 (ARCHE, ARCHE Bench) 제시
LLM의 추론 능력을 평가하기 위한 구체적인 방법론과 평가 지표 (RLT, EC, REA) 제시
현재 LLM이 과학적 추론의 엄격함을 충족시키기에는 부족하다는 점을 시사
한계점:
현재 LLM은 REA와 EC 간의 트레이드오프를 보이며, 완전한 추론 체인 추출에 어려움
모델의 추론 능력이 과학적 엄격성에 미치지 못함
👍