Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

EasyMath: A 0-shot Math Benchmark for SLMs

Created by
  • Haebom

저자

Drishya Karki, Michiel Kamphuis, Angelecia Frey

개요

EasyMath는 소규모 언어 모델의 실용적인 수학 추론을 위한 간결한 벤치마크입니다. 기본적인 산술과 연산 순서부터 수학 문제, 대수식, 예외적인 경우까지 13가지 범주를 다루며 전문적인 주제는 제외합니다. 본 연구는 23개의 모델(14M~4B 파라미터)을 대상으로 자유 형식 답변에 대한 정확한 수치 및 기호 검사를 제로샷 설정에서 수행했습니다. 정확도는 모델의 크기와 학습량에 따라 증가하며, 사고 과정 추가는 약간의 성능 향상을 가져오고, 일관성은 규모가 커짐에 따라 향상됩니다.

시사점, 한계점

시사점: 모델 크기 및 학습 데이터의 양이 수학 추론 성능에 큰 영향을 미침을 확인했습니다. Chain-of-thought 프롬프트가 성능 향상에 기여하지만 그 효과는 제한적입니다. 대규모 모델일수록 답변의 일관성이 높아집니다. EasyMath 벤치마크는 소규모 언어 모델의 수학 추론 능력 평가에 유용한 도구임을 제시합니다.
한계점: 전문적인 수학 주제는 제외되어, 수학 추론 능력의 전반적인 평가에는 한계가 있을 수 있습니다. 제로샷 설정에서 평가되었으므로, few-shot 또는 fine-tuning 설정에서는 다른 결과가 나타날 수 있습니다. 사용된 모델의 종류와 특성에 따라 일반화 가능성에 제한이 있을 수 있습니다.
👍