본 논문은 대규모 언어 모델(LLM)이 생성하는 설명의 신뢰성(faithfulness)을 측정하는 새로운 접근법을 제시합니다. LLM은 질문에 대한 답변과 함께 그 과정을 설명할 수 있지만, 이 설명이 모델의 실제 추론 과정을 잘못 나타낼 수 있다는 점을 지적합니다. 논문에서는 신뢰성을 LLM 설명이 언급하는 영향력 있는 개념 집합과 실제 영향력 있는 개념 집합 간의 차이로 정의합니다. 보조 LLM을 사용하여 입력값의 개념 값을 수정하여 현실적인 반실례(counterfactuals)를 생성하고, 베이지안 계층적 모델을 이용하여 개념의 인과적 효과를 예시 및 데이터셋 수준에서 정량화하는 방법을 제안합니다. 실험을 통해 사회적 편향 과제와 의료 질문 응답 과제에서 LLM 설명의 비신뢰성을 정량화하고 해석 가능한 패턴을 발견할 수 있음을 보여줍니다.
