TabTune: A Unified Library for Inference and Fine-Tuning Tabular Foundation Models
Created by
- Haebom
Category
Empty
저자
Aditya Tanna, Pratinav Seth, Mohamed Bouadi, Utsav Avaiya, Vinay Kumar Sankarapu
TabTune: A Unified Library for Tabular Foundation Models
개요
TabTune은 대규모 사전 학습의 이점을 테이블 형식 데이터 영역으로 확장하는 표 형식 파운데이션 모델의 채택을 표준화하는 통합 라이브러리입니다. 이 라이브러리는 일관된 전처리 파이프라인, 통합된 API, 일관된 미세 조정 절차, 그리고 보정 및 공정성과 같은 배포 지향적 메트릭에 대한 표준화된 평가 부재로 인해 제한된 채택을 해결합니다. TabTune은 단일 인터페이스를 통해 표 형식 파운데이션 모델에 대한 완전한 워크플로우를 표준화합니다. 이 라이브러리는 제로샷 추론, 메타 학습, 지도 미세 조정(SFT), 매개변수 효율적 미세 조정(PEFT)을 포함한 여러 적응 전략을 지원하는 7개의 최첨단 모델에 대한 일관된 접근을 제공합니다. TabTune은 모델 인식 전처리 자동화, 내부 아키텍처 이질성 관리, 성능, 보정 및 공정성에 대한 평가 모듈 통합을 지원합니다. 확장성 및 재현성을 위해 설계되었으며, 표 형식 파운데이션 모델의 적응 전략에 대한 일관된 벤치마킹을 가능하게 합니다.
시사점, 한계점
•
표 형식 파운데이션 모델의 워크플로우를 표준화하여 채택을 촉진함
•
제로샷, 메타 학습, SFT, PEFT 등 다양한 적응 전략 지원
•
모델 인식 전처리 자동화, 내부 아키텍처 이질성 관리
•
성능, 보정, 공정성 평가 모듈 통합
•
확장성 및 재현성을 염두에 두고 설계됨
•
오픈 소스로 제공
•
(한계점은 논문에 명시되지 않음)
