Prefix-Adaptive Block Diffusion for Efficient Document Recognition

작성자

Haebom

카테고리

Empty

저자

Mingxu Chai, Ziyu Shen, Chenyu Liu, Kaidi Zhang, Jiazheng Zhang, Dingwei Zhu, Zhiheng Xi, Ruoyu Chen, Jun Long, Jihua Kang, Tao Gui, Qi Zhang

💡 개요

기존 블록 확산 모델(BDM)은 고정된 블록 경계로 인해 병렬 생성 및 캐싱에 비효율성을 보였으며, 구조적 인식에 어려움을 야기했습니다. 본 논문은 블록 크기를 고정된 단위가 아닌 후보 범위로 보고, 양방향 디노이징 대신 접두사에서 접미사로 이어지는 인과적 디노이징을 수행하는 Prefix-Adaptive Block Diffusion Model (PA-BDM)을 제안합니다. PA-BDM은 신뢰도 기반 구조 손실(CSL)과 점진적 접두사 커밋(PPC)을 통해 효율적인 토큰 캐싱과 병렬 디코딩 공간을 복원하여 인식 성능과 추론 처리량을 크게 향상시킵니다.

🔑 시사점 및 한계

•

고정된 블록 경계를 벗어나 동적으로 블록 단위를 결정함으로써 BDM의 병렬 처리 및 캐싱 효율성을 크게 개선했습니다.

•

인과적 디노이징과 접두사 기반 커밋 전략을 통해 구조 인식 작업에 더 적합한 일관적인 정보 흐름을 구축했습니다.

•

제안된 PA-BDM 모델은 여러 벤치마크에서 기존 모델 대비 높은 인식 점수와 현저히 향상된 추론 처리량을 달성했습니다.

•

향후 연구에서는 다양한 길이의 문서에 대한 모델의 일반화 성능을 추가적으로 검증하고, 더 복잡한 구조를 가진 문서 인식으로의 확장 가능성을 탐색할 필요가 있습니다.

PDF 보기

Made with Slashpage