Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Evaluating Menu OCR and Translation: A Benchmark for Aligning Human and Automated Evaluations in Large Vision-Language Models

Created by
  • Haebom

저자

Zhanglin Wu, Tengfei Song, Ning Xie, Weidong Zhang, Mengli Zhu, Shuang Wu, Shiliang Sun, Hao Yang

개요

본 논문은 복잡한 레이아웃을 가진 장문 텍스트 이해 능력 평가의 중요성을 강조하며, 특히 다국어 번역을 포함한 메뉴 이해에 초점을 맞춘 새로운 평가 프레임워크인 MOTBench를 제안합니다. MOTBench는 다양한 글꼴, 문화적 요소, 복잡한 레이아웃을 가진 중국어와 영어 메뉴 데이터셋을 기반으로, 메뉴 내 각 음식의 이름, 가격, 단위 등을 정확하게 인식하고 번역하는 LVLMs의 능력을 종합적으로 평가합니다. 실험 결과, 자동 평가 결과가 전문가의 수동 평가와 높은 일치율을 보이며, 다양한 최첨단 LVLMs의 성능 분석을 통해 향후 LVLMs 개발 방향에 대한 통찰력을 제공합니다. MOTBench는 깃허브를 통해 공개됩니다.

시사점, 한계점

시사점:
복잡한 레이아웃을 가진 장문 텍스트 이해 능력 평가의 중요성을 부각합니다.
메뉴 번역이라는 실제 응용 시나리오에 초점을 맞춘 새로운 평가 벤치마크를 제공합니다.
다양한 LVLMs의 성능 비교 분석을 통해 향후 연구 방향을 제시합니다.
공개된 데이터셋과 벤치마크를 통해 LVLMs 연구의 발전에 기여합니다.
한계점:
현재 중국어와 영어 메뉴에만 집중되어 있어 언어 다양성이 제한적입니다.
메뉴라는 특정 도메인에 국한된 평가이므로, 다른 유형의 문서에 대한 일반화 가능성이 제한적일 수 있습니다.
평가 데이터셋의 규모가 향후 더 확장될 필요가 있습니다.
👍