Enhancing ML Model Interpretability: Leveraging Fine-Tuned Large Language Models for Better Understanding of AI
Created by
Haebom
Category
Empty
저자
Jonas Bokstaller, Julia Altheimer, Julian Dormehl, Alina Buss, Jasper Wiltfang, Johannes Schneider, Maximilian Roglinger
개요
본 논문은 기존 머신러닝 모델의 블랙박스화 문제를 해결하기 위해 등장한 설명 가능한 AI (XAI)와 발전된 자연어 처리 능력을 가진 대규모 언어 모델 (LLM)을 결합한 새로운 XAI 해석을 위한 참조 아키텍처를 제시한다. 이는 LLM 기반의 대화형 챗봇을 통해 XAI를 해석하는 방식으로, 배터리의 건강 상태(SoH) 예측에 적용하여 다양한 평가 및 시연을 통해 검증하였다. 평가 결과, 특히 XAI 경험이 부족한 사용자에게 머신러닝의 해석력을 향상시키는 것으로 나타났다.
시사점, 한계점
•
시사점:
◦
LLM을 활용한 XAI 해석의 새로운 참조 아키텍처를 제시하여 XAI의 사용성을 향상시켰다.
◦
XAI에 대한 전문 지식이 부족한 사용자도 쉽게 머신러닝 결과를 이해할 수 있도록 지원한다.
◦
배터리 SoH 예측 분야에서의 실제 적용을 통해 효용성을 검증하였다.
•
한계점:
◦
제시된 아키텍처는 배터리 SoH 예측에 특화되어 있어 다른 분야에 적용 가능성을 추가적으로 검증해야 한다.
◦
LLM의 성능에 의존적이므로, LLM의 한계가 XAI 해석의 정확성에 영향을 미칠 수 있다.
