Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Doc-CoB: Enhancing Multi-Modal Document Understanding with Visual Chain-of-Boxes Reasoning

Created by
  • Haebom

저자

Ye Mo, Zirui Shao, Kai Ye, Xianwei Mao, Bo Zhang, Hangdi Xing, Peng Ye, Gang Huang, Kehan Chen, Zhou Huan, Zixu Yan, Sheng Zhou

개요

본 논문은 다중 모드 대규모 언어 모델(MLLM)을 이용한 문서 이해의 한계를 극복하기 위해, 인간의 시각적 추론 방식을 모방한 Doc-CoB(Chain-of-Box) 기법을 제시합니다. Doc-CoB는 MLLM의 구조를 변경하지 않고, 질의와 관련된 영역(박스)을 자동으로 선택하여 집중적으로 분석함으로써, 전체 문서 이미지를 처리하는 기존 방식의 비효율성을 해결합니다. 상용 MLLM과 레이아웃 분석기를 활용하여 249k 개의 훈련 데이터를 생성하고, 박스 식별 및 박스-질의 추론을 향상시키는 두 가지 보조 과제를 통해 문서 이해 성능을 개선합니다. 7개의 벤치마크와 4개의 인기 모델에 대한 실험 결과, Doc-CoB가 성능을 크게 향상시키는 것을 보여줍니다. 모든 코드, 데이터 및 모델은 공개될 예정입니다.

시사점, 한계점

•
시사점:
◦
인간의 시각적 추론 방식을 모방하여 MLLM의 문서 이해 성능을 향상시키는 새로운 기법 제시.
◦
기존 MLLM의 구조 변경 없이 효율적인 문서 이해를 가능하게 함.
◦
다양한 벤치마크와 모델에서 성능 향상을 검증.
◦
코드, 데이터 및 모델 공개를 통한 연구의 재현성 및 확장성 확보.
•
한계점:
◦
제시된 방법의 효과는 상용 MLLM과 레이아웃 분석기에 의존적일 수 있음.
◦
훈련 데이터 생성 과정의 자동화에 대한 자세한 설명 부족.
◦
특정 유형의 문서 또는 질의에 대해서는 성능 저하 가능성 존재.
◦
다른 시각적 추론 기법과의 비교 분석이 부족할 수 있음.
👍
Made with Slashpage