FiMI: A Domain-Specific Language Model for Indian Finance Ecosystem

Created by

Haebom

저자

Aboli Kathar, Aman Kumar, Anusha Kamath, Araveeti Srujan, Ashish Sharma, Chandra Bhushan, Dilip Asbe, Divya Sorate, Duddu Prasanth Kumar, Evan Acharya, Harsh Sharma, Hrithik Kadam, Kanishk Singla, Keyur Doshi, Kiran Praveen, Kolisetty Krishna SK, Krishanu Adhikary, Lokesh MPT, Mayurdeep Sonowal, Nadeem Shaikh, Navya Prakash, Nimit Kothari, Nitin Kukreja, Prashant Devadiga, Rakesh Paul, Ratanjeet Pratap Chauhan, Raunak Kalani, Raviraj Joshi, Shamanth MH, Shantanu Pandey, Shubham Soni, Siddharth Dixit, Smriti Jopat, Sunil Patel, Suraj Singh, Suvradip Paul, Tulasi Pilla, Utkarsh Vaidya, Vineeth Nambiar, Vishal Kanvaty, Yatharth Dedhia

💡 개요

본 논문은 인도 금융 생태계, 특히 디지털 결제 시스템을 위한 도메인 특화 언어 모델인 FiMI를 제안합니다. Mistral Small 24B 아키텍처를 기반으로 하며, 방대한 금융, 다국어 데이터를 활용한 연속 사전 학습과 실제 금융 워크플로우를 모방하는 지침 파인튜닝을 통해 개발되었습니다. FiMI는 금융 추론에서 20%의 성능 향상을 보였으며, 도메인별 도구 호출 능력에서 87%의 압도적인 성능 우위를 달성했습니다.

🔑 시사점 및 한계

•

도메인 특화 언어 모델이 특정 산업 분야의 복잡한 문제를 해결하는 데 강력한 성능을 발휘할 수 있음을 보여줍니다.

•

다단계 학습 파이프라인과 실제 워크플로우를 반영한 훈련 데이터가 모델 성능 향상에 중요한 역할을 합니다.

•

제시된 FiMI 모델은 인도 금융 시장에 대한 이해도를 높이고, 금융 서비스 혁신에 기여할 잠재력을 가집니다.

•

일반적인 벤치마크 성능을 유지하면서도 특정 도메인에서 뛰어난 성능을 보이는 모델 개발 방법론은 다른 도메인에도 적용 가능할 것으로 기대됩니다.

•

본 연구는 인도 금융 시장에 초점을 맞추고 있으며, 다른 국가의 금융 생태계에 적용하기 위해서는 추가적인 연구와 데이터가 필요할 수 있습니다.

PDF 보기

Made with Slashpage