Liyao Li, Chao Ye, Wentao Ye, Yifei Sun, Zhe Jiang, Haobo Wang, Jiaming Tian, Yiming Zhang, Ningtao Wang, Xing Fu, Gang Chen, Junbo Zhao
개요
본 논문은 대규모 언어 모델(LLM)을 표 형식 데이터 추론 작업에 적용하는 데 있어, 기존 방식이 표 구조 정보를 제대로 활용하지 못하는 한계를 지적합니다. 저자들은 StructQA 벤치마크를 활용한 실험을 통해 최첨단 LLM조차도 표 데이터를 처리하는 데 어려움을 겪을 수 있음을 보입니다. 이에 대한 해결책으로, 텍스트 토큰과 함께 표를 독립적인 모달리티로 취급하는 TAMO라는 멀티모달 프레임워크를 제안합니다. TAMO는 하이퍼그래프 신경망을 사용하여 글로벌 테이블 인코더를 구성하고, 이를 LLM과 통합합니다. HiTab, WikiTQ, WikiSQL, FeTaQA, StructQA 등 다양한 벤치마킹 데이터셋에 대한 실험 결과, TAMO는 기존 방식 대비 평균 42.65%의 상대적 성능 향상을 달성했습니다.
시사점, 한계점
•
시사점:
◦
LLM을 표 형식 데이터 추론에 활용하는 데 있어 표 구조 정보를 효과적으로 활용하는 것이 중요함을 강조합니다.
◦
TAMO와 같은 멀티모달 프레임워크를 통해 LLM의 표 데이터 처리 성능을 크게 향상시킬 수 있음을 보여줍니다.
◦
제안된 TAMO 모델은 다양한 벤치마킹 데이터셋에서 우수한 성능을 입증하여 일반화 가능성을 보여줍니다.
•
한계점:
◦
논문에서 구체적인 모델 아키텍처나 구현 세부 사항에 대한 자세한 정보가 부족할 수 있습니다.
◦
다른 LLM 기반 표 데이터 처리 모델과의 비교 분석이 더 필요할 수 있습니다.
◦
TAMO의 성능 향상이 모든 유형의 표 데이터에 일관되게 적용될 수 있는지에 대한 추가적인 연구가 필요합니다.
