Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

OmniGenBench: A Benchmark for Omnipotent Multimodal Generation across 50+ Tasks

Created by
  • Haebom

저자

Jiayu Wang, Yang Jiao, Yue Yu, Tianwen Qian, Shaoxiang Chen, Jingjing Chen, Yu-Gang Jiang

개요

본 논문은 최신 거대 다중 모달 모델(LMM)의 지시사항 따르기 능력을 종합적으로 평가하기 위한 새로운 벤치마크인 OmniGenBench를 제시합니다. OmniGenBench는 실제 시나리오를 기반으로 한 57개의 다양한 하위 작업으로 구성되며, 지각 중심 및 인지 중심 차원 모두에서 모델의 능력을 체계적으로 평가합니다. 지각 중심 작업에는 기존의 시각 분석 도구를, 인지 중심 작업에는 강력한 LLM 기반 판정자를 활용하여 생성된 이미지와 사용자 지시사항의 일치도를 평가하는 이중 모드 프로토콜을 사용합니다. GPT-4o, Gemini-2.0-Flash, Seedream과 같은 주요 생성 모델을 OmniGenBench를 이용하여 평가하고 성능을 비교 분석합니다. 코드와 데이터는 GitHub에서 공개됩니다.

시사점, 한계점

시사점:
LMM의 지시사항 따르기 능력을 포괄적으로 평가할 수 있는 새로운 벤치마크 OmniGenBench를 제시.
지각 중심 및 인지 중심 작업을 모두 포함하여 다양한 측면에서 모델의 성능 평가 가능.
실제 시나리오 기반의 다양한 하위 작업들을 통해 현실적인 평가 제공.
주요 LMM들의 성능을 비교 분석하고, 각 모델의 강점과 약점을 파악하는 데 도움을 제공.
한계점:
OmniGenBench의 57개 하위 작업이 모든 유형의 지시사항과 상황을 완벽히 포괄하지 못할 수 있음.
LLM 기반 판정자의 주관성이 결과에 영향을 미칠 수 있음.
새로운 모델이나 지시사항 유형에 대한 적응성이 부족할 수 있음.
벤치마크 자체의 bias 가능성 존재.
👍