Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Scientists' First Exam: Probing Cognitive Abilities of MLLM via Perception, Understanding, and Reasoning

Created by
  • Haebom

저자

Yuhao Zhou, Yiheng Wang, Xuming He, Ruoyao Xiao, Zhiwei Li, Qiantai Feng, Zijie Guo, Yuejin Yang, Hao Wu, Wenxuan Huang, Jiaqi Wei, Dan Si, Xiuqi Yao, Jia Bu, Haiwen Huang, Tianfan Fu, Shixiang Tang, Ben Fei, Dongzhan Zhou, Fenghua Ling, Yan Lu, Siqi Sun, Chenhui Li, Guanjie Zheng, Jiancheng Lv, Wenlong Zhang, Lei Bai

개요

본 논문은 과학적 발견에 있어 점점 더 중요해지는 복합적 다중 모달 추론을 평가하기 위한 새로운 벤치마크인 Scientists' First Exam (SFE)을 제시합니다. SFE는 과학적 신호 인지, 과학적 속성 이해, 과학적 비교 추론의 세 가지 수준으로 구성되며, 5개 분야에 걸쳐 66개의 다중 모달 과제, 830개의 전문가 검증 VQA 쌍으로 이루어져 있습니다. 현존 최고 성능의 GPT-o3와 InternVL-3 모델의 SFE 성능은 각각 34.08%와 26.52%로 나타나, 과학 분야에서 MLLM의 성능 향상에 대한 필요성을 강조합니다.

시사점, 한계점

시사점:
과학적 다중 모달 추론 능력 평가를 위한 새로운 벤치마크 SFE 제시.
현존 최고 성능 MLLM의 과학적 추론 능력의 한계를 명확히 제시.
AI 기반 과학적 발견의 발전을 위한 방향 제시.
한계점:
SFE 벤치마크가 아직 초기 단계이며, 더욱 다양한 과학 분야와 과제를 포함할 필요가 있음.
현재 평가된 모델의 성능이 낮으므로, 향후 MLLM의 발전에 따른 벤치마크의 지속적인 업데이트가 필요함.
SFE 벤치마크의 질문 유형 및 난이도에 대한 추가적인 분석과 검토가 필요함.
👍