Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

An Analysis of Architectural Impact on LLM-based Abstract Visual Reasoning: A Systematic Benchmark on RAVEN-FAIR

Created by
  • Haebom
Category
Empty

저자

Sinan Urgun, Se\c{c}kin Ar{\i}

개요

본 연구는 추상적 시각적 추론 문제에서 대규모 언어 모델(LLM)의 성능을 체계적으로 평가하는 것을 목표로 한다. RAVEN-FAIR 데이터셋에서 4개의 LLM 모델(GPT-4.1-Mini, Claude-3.5-Haiku, Gemini-1.5-Flash, Llama-3.3-70b)과 4개의 다른 추론 아키텍처(single-shot, embedding-controlled repetition, self-reflection, multi-agent)를 활용하여 실험을 진행했다. SSIM 및 LPIPS 메트릭을 사용하여 3단계 프로세스(JSON 추출, LLM 추론, 도구 기능)를 통해 생성된 시각적 응답을 평가하고, Chain-of-Thought 점수와 오류 유형(의미론적 환각, 숫자 오해)을 분석했다. GPT-4.1-Mini가 모든 아키텍처에서 일관되게 가장 높은 전체 정확도를 달성하여 강력한 추론 능력을 보여주었다.

시사점, 한계점

GPT-4.1-Mini가 전반적으로 가장 높은 정확도를 달성하며 강력한 추론 능력을 입증했다.
Multi-agent 아키텍처는 모델 간 의미론적 및 숫자적 균형에 영향을 미칠 수 있지만, 그 효과는 균일하지 않았다.
각 모델은 아키텍처 설계에 대한 고유한 민감도 패턴을 보였으며, 이는 추론 효과가 모델 특정적임을 시사한다.
응답 범위의 변화는 아키텍처 간 직접 비교를 복잡하게 만드는 요인으로 작용했다.
단일 실행 평가의 취약성을 고려하여, 각 구성의 상한 성능을 추정하기 위해 5번의 독립적인 실행 중 최고 결과를 보고했다.
👍