Are Foundation Models Useful for Bankruptcy Prediction?
Created by
Haebom
Category
Empty
저자
Marcin Kostrzewa, Oleksii Furman, Roman Furman, Sebastian Tomczak, Maciej Zi\k{e}ba
개요
본 논문은 다양한 금융 분야에서 가능성을 보여준 Foundation 모델이 기업 파산 예측에 얼마나 효과적인지 기존 방법론과 비교 평가한다. Llama-3.3-70B-Instruct와 TabPFN을 사용하여 Visegrad Group의 100만 개 이상의 기업 데이터를 기반으로 파산 예측을 수행했다. 그 결과, XGBoost 및 CatBoost와 같은 기존의 머신러닝 모델이 모든 예측 기간에서 Foundation 모델보다 일관되게 우수한 성능을 보였다.
시사점, 한계점
•
XGBoost 및 CatBoost와 같은 전문화된 머신러닝 모델이 Foundation 모델보다 파산 예측에서 더 우수한 성능을 보임.
•
LLM 기반 접근 방식은 신뢰할 수 없는 확률 추정으로 인해 위험 민감적인 금융 환경에서 사용하기 어려움.
•
TabPFN은 간단한 기반 모델과 경쟁할 수 있지만, 성능 향상 대비 상당한 컴퓨팅 자원을 필요로 함.
•
현재의 Foundation 모델은 파산 예측과 같은 특정 작업에 전문화된 방법론보다 효과적이지 않음.
