본 논문은 비전 대규모 언어 모델(VLLM)을 이용한 비정형 테이블의 구조 및 내용 인식에 대한 연구를 다룬다. 기존의 사전 훈련된 기초 모델들이 테이블 이해 및 추론과 같은 작업에서 진전을 보였지만, 비정형 테이블 인식은 여전히 미개척 분야이다. 이에 본 논문에서는 계층적 설계 철학에 기반한 벤치마크를 제안하여 VLLM의 인식 능력을 평가하고, 저품질 이미지 입력이 인식 과정의 주요 병목 현상임을 밝힌다. 이를 해결하기 위해 저품질 이미지 문제를 완화하기 위한 다양한 경량화 도구를 통합한 Neighbor-Guided Toolchain Reasoner (NGTR) 프레임워크를 제안한다. NGTR은 유사한 이웃으로부터 도구 선택 경험을 전이하고, 도구 호출 과정을 감독하는 반사 모듈을 설계한다. 공개 데이터셋에 대한 실험을 통해 NGTR이 기존 VLLM의 인식 능력을 크게 향상시키는 것을 보여준다. 본 논문의 벤치마크와 프레임워크는 테이블 인식에 대한 대안적인 해결책을 제공한다.