Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Benchmarking Systematic Relational Reasoning with Large Language and Reasoning Models

Created by
  • Haebom

저자

Irtaza Khalid, Amir Masoud Nourollah, Steven Schockaert

개요

본 논문은 대규모 언어 모델(LLM)의 체계적인 추론 능력 부족 문제를 다룹니다. LLM은 수학 및 프로그래밍 문제 해결에서 강화 학습 및 사고 과정 프롬프트 기반 후속 학습 전략을 통해 성능 향상을 보였으나, 일반화 능력에 대한 이해는 여전히 부족합니다. 따라서 본 논문은 질적 공간 및 시간적 추론과 같이 관계적 구성에 대한 체계적 추론을 요구하는 과제에 초점을 맞춰, 문제 난이도를 제어하고 모델의 일반화 능력을 정확하게 측정합니다. 연구 결과, 고려된 LLM과 강화 학습 기반의 대규모 추론 모델(LRM) 모두 전반적으로 성능이 저조하지만, 무작위 추측보다는 나은 결과를 보였습니다.

시사점, 한계점

시사점: 질적 공간 및 시간적 추론과 같은 관계적 구성에 대한 체계적 추론 과제를 통해 LLM 및 LRM의 일반화 능력을 평가하는 새로운 접근 방식을 제시합니다. LLM 및 LRM의 추론 능력에 대한 한계를 명확하게 보여줍니다.
한계점: 수학 및 프로그래밍 문제 해결을 넘어선 다양한 분야에서의 LLM 및 LRM의 추론 능력을 평가하지 못했습니다. 제한된 종류의 과제만을 다루었으므로, 더 넓은 범위의 추론 과제에 대한 일반화 가능성은 제한적입니다. 모델의 성능이 무작위 추측보다 나은 수준에 머물렀다는 점에서, 추론 능력 향상을 위한 추가적인 연구가 필요함을 시사합니다.
👍