llmSHAP: A Principled Approach to LLM Explainability
Created by
Haebom
Category
Empty
저자
Filip Naudot, Tobias Sundqvist, Timotheus Kampik
개요
본 논문은 대규모 언어 모델(LLM) 기반 의사 결정 지원 시스템에서 특징 귀속 방법을 연구합니다. 특히 협력 게임 이론의 Shapley 값을 사용하여, 비결정적인 추론을 하는 LLM 환경에서 Shapley 값의 원칙 만족 여부를 분석하고, 설명 가능한 추론 속도, 정확한 Shapley 값 귀속과의 일치, 그리고 원칙 달성 간의 trade-off를 제시합니다.
시사점, 한계점
•
LLM의 확률적 특성이 Shapley 값의 원칙 만족에 미치는 영향 분석
•
LLM 기반 의사 결정 지원 시스템에서 Shapley 값 기반 특징 귀속의 구현 방식별 원칙 만족 여부 보장 가능성 연구
•
설명 가능한 추론 속도, 정확성, 원칙 준수 사이의 상충 관계 제시
•
본 연구는 LLM의 확률적 특성을 고려한 Shapley 값 기반 특징 귀속 방법의 적용 가능성을 제시하지만, 구체적인 구현 방식에 따라 원칙 만족 여부가 달라질 수 있으며, 속도와 정확성 간의 trade-off를 고려해야 함
