Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Synthetic Document Question Answering in Hungarian

Created by
  • Haebom

저자

Jonathan Li, Zoltan Csaki, Nidhi Hiremath, Etash Guha, Fenglu Hong, Edward Ma, Urmish Thakker

개요

본 논문은 저자원 언어의 문서 시각적 질의응답(DocVQA) 과제의 어려움을 해결하기 위해, 헝가리어를 대상으로 확장 가능한 데이터셋 구축 방법을 제시합니다. 특히, Common Crawl에서 수집한 헝가리어 문서를 기반으로 수동으로 구축한 소규모 HuDocVQA-manual과 합성적으로 생성한 대규모 HuDocVQA 데이터셋을 제시합니다. HuDocVQA는 품질 필터링 및 중복 제거를 통해 인간 수준의 품질을 달성하도록 노력했습니다. 또한, 헝가리어 OCR 모델 학습에 사용할 수 있는 117,000페이지의 헝가리어 Common Crawl PDF 데이터셋인 HuCCPDF도 함께 공개합니다. 실험 결과, 제시된 데이터셋으로 Llama 3.2 11B Instruct 모델을 fine-tuning 했을 때 HuDocVQA 성능이 7.2% 향상되는 것을 확인했습니다. 본 논문에서 제시된 데이터셋과 코드는 공개되어 다국어 DocVQA 연구를 촉진할 것으로 기대됩니다.

시사점, 한계점

시사점:
저자원 언어의 DocVQA 데이터셋 구축을 위한 효율적인 방법 제시
헝가리어 DocVQA 데이터셋 HuDocVQA 및 HuDocVQA-manual, HuCCPDF 공개를 통한 다국어 VQA 연구 활성화
제시된 데이터셋을 활용한 모델 fine-tuning을 통해 성능 향상 가능성 확인 (+7.2% 향상)
한계점:
현재 헝가리어에만 집중되어 있어 다른 저자원 언어로의 확장성 검증 필요
합성 데이터셋인 HuDocVQA의 품질 및 일반화 성능에 대한 추가적인 연구 필요
HuDocVQA-manual의 규모가 작아 일반화 성능에 제한이 있을 수 있음.
👍