ReSS: Learning Reasoning Models for Tabular Data Prediction via Symbolic Scaffold

작성자

Haebom

카테고리

Empty

저자

Chenlang Yi, Gang Li, Zizhan Xiong, Tue Minh Cao, Yanmin Gong, My T. Thai, Tianbao Yang

💡 개요

본 논문은 의료 및 금융과 같이 높은 정확성과 인간 이해가 가능한 추론이 중요한 분야에서 사용되는 표 형식 데이터 예측을 위한 ReSS라는 프레임워크를 제안합니다. ReSS는 결정 트리 모델을 사용하여 인스턴스별 결정 경로를 기호형 스캐폴드로 추출하고, 이를 LLM에 안내하여 기호형 논리에 충실한 자연어 추론을 생성하도록 합니다. 이렇게 생성된 고품질 데이터셋으로 LLM을 미세 조정하여, 재현율, 설명 필요성, 설명 충분성과 같은 정량적 지표로 평가했을 때 기존 방법론 대비 최대 10%의 성능 향상을 달성했습니다.

🔑 시사점 및 한계

•

기호형 모델의 설명 가능성과 신경망 모델의 표현력 사이의 간극을 효과적으로 메워, 표 형식 데이터에 대한 고품질의 설명 가능한 예측 모델을 구축할 수 있습니다.

•

표 형식 데이터에 대한 LLM의 도메인 특화 추론 능력을 향상시키고, 데이터 큐레이션의 확장성을 높이며, 일관성 있는 추론을 보장하는 새로운 접근 방식을 제시합니다.

•

제안된 방법론의 일반화 성능 및 다양한 표 형식 데이터셋에 대한 적용 가능성을 추가적으로 검증하고, 더 복잡한 형태의 기호형 스캐폴드를 탐색하는 것이 향후 과제로 남아있습니다.

PDF 보기

Made with Slashpage