Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

FlipVQA-Miner: Cross-Page Visual Question-Answer Mining from Textbooks

Created by
  • Haebom
Category
Empty

저자

Zhen Hao Wong, Jingwen Deng, Hao Liang, Runming He, Chengyu Shen, Wentao Zhang

개요

본 논문은 대규모 언어 모델(LLM) 학습을 위한 고품질 데이터를 확보하기 위해, 교재 및 문제집과 같은 교육 자료에서 QA (Question-Answer) 및 VQA (Visual Question-Answer) 쌍을 추출하는 자동화된 파이프라인을 제안합니다. 레이아웃 인식 OCR과 LLM 기반 의미론적 파싱을 결합하여, 교육 자료 PDF를 AI 학습에 적합한 데이터로 변환합니다. 이 방법은 정확하고 정렬된 데이터를 생성하여, 합성 데이터 생성의 대안을 제시하고 추론 지향 LLM 훈련을 개선합니다.

시사점, 한계점

교육 자료의 활용을 통해 LLM 학습 데이터의 품질과 다양성을 향상시킬 수 있습니다.
자동화된 파이프라인을 통해 데이터 큐레이션 비용을 절감하고, 확장 가능한 데이터 획득이 가능합니다.
실제 교육 자료에서 추출한 데이터를 사용하여 LLM의 추론 능력을 향상시킬 수 있습니다.
해당 파이프라인은 오픈 소스로 공개되어 연구 및 활용이 용이합니다.
(한계점은 논문에 명시되지 않음)
👍