본 논문은 과학, 산업, 공공 서비스 전반에서 의사 결정의 기반이 되는 표 형식 데이터를 다룬다. 딥러닝의 빠른 발전에도 불구하고 표 형식 데이터에서는 Gradient-Boosted Decision Trees (GBDTs)가 여전히 널리 사용되고 있다는 문제점을 지적하며, 이를 해결하기 위해 iLTM (integrated Large Tabular Model)을 제안한다. iLTM은 트리 기반 임베딩, 차원 독립적 표현, 메타 훈련된 하이퍼 네트워크, MLP, 그리고 검색을 단일 아키텍처로 통합한다. 1,800개 이상의 다양한 분류 데이터셋으로 사전 훈련된 iLTM은 소규모 데이터셋부터 대규모 및 고차원 작업까지 다양한 표 형식 분류 및 회귀 작업에서 일관적으로 우수한 성능을 달성한다. 가벼운 미세 조정 후 메타 훈련된 하이퍼 네트워크는 회귀 대상에 전이되어 강력한 기준선과 동등하거나 더 나은 성능을 보인다. 실험 결과는 iLTM이 잘 조정된 GBDT 및 선도적인 딥 표 형식 모델보다 성능이 뛰어나며, 작업별 튜닝이 덜 필요함을 보여준다. iLTM은 트리 기반 방법과 신경망 기반 방법 간의 격차를 해소하여, 견고하고 적응 가능하며 확장 가능한 표 형식 학습을 위한 새로운 프레임워크를 제공한다.
