Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

CARE: A QLoRA-Fine Tuned Multi-Domain Chatbot With Fast Learning On Minimal Hardware

Created by
  • Haebom
Category
Empty

저자

Ankit Dutta, Nabarup Ghosh, Ankush Chatterjee

개요

Phi3.5-mini를 기반으로 한 경량 모델 CARE를 제안합니다. CARE는 통신, 의료, 금융 세 가지 영역의 질문에 답하도록 설계되었으며, 최소한의 하드웨어와 데이터로 미세 조정되었습니다. 통신 및 금융 분야에서는 고객이 자주 겪는 문제를 해결하고, 의료 분야에서는 의료 전문가와 상담하기 전에 사용자가 취할 수 있는 기본적인 진단 및 의료 제안을 제공합니다. 모바일 기기에서도 사용 가능하며, 다양한 의료 벤치마크에서 상대적으로 우수한 성능을 보입니다.

시사점, 한계점

시사점:
최소한의 자원으로 특정 도메인에 특화된 질문응답 모델을 구축 가능함을 보여줌.
모바일 기기에서도 사용 가능한 경량 모델의 실용성 제시.
의료 분야에서 기본적인 의료 제안 제공 가능성을 확인.
한계점:
Phi3.5-mini 기반으로 성능에 제약이 있을 수 있음.
제공하는 의료 정보는 예비적인 수준이며 전문가 상담을 대체할 수 없음.
데이터셋의 크기가 작아 일반화 성능이 제한적일 수 있음.
👍