Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

LLMs for Explainable AI: A Comprehensive Survey

Created by
  • Haebom

저자

Ahsan Bilal, David Ebert, Beiyu Lin

개요

본 논문은 대규모 언어 모델(LLM)을 활용한 설명 가능한 AI(XAI)에 대한 종합적인 개관을 제공합니다. 복잡한 머신러닝 출력을 사용자가 이해하기 쉬운 서술로 변환하여 모델 예측의 접근성을 높이고, 정교한 모델 동작과 인간의 해석력 사이의 간극을 메우는 LLM의 가능성을 탐구합니다. 기존의 접근 방식, LLM 생성 설명에 대한 평가 기법, 과제 및 한계, 실제 응용 사례를 논의하며, 해석 가능하고 자동화되고 사용자 중심적이며 다학제적인 XAI 접근 방식의 필요성을 강조하여 향후 연구 방향을 제시합니다.

시사점, 한계점

시사점:
LLM을 활용한 XAI는 복잡한 AI 모델의 예측 과정을 사용자에게 명확하게 설명할 수 있는 가능성을 제시합니다.
LLM 기반 XAI는 AI 모델에 대한 신뢰도를 높이고, 더 효과적인 의사결정을 가능하게 합니다.
다양한 분야에서 LLM을 활용한 XAI의 실제 응용 사례를 제시하고, 향후 연구 방향을 제시합니다.
한계점:
LLM이 생성하는 설명의 정확성과 신뢰성에 대한 평가 기준 및 방법론의 부족.
LLM 기반 XAI의 해석 가능성, 자동화, 사용자 중심성을 향상시키기 위한 추가적인 연구가 필요합니다.
다학제적인 접근 방식을 통해 LLM 기반 XAI의 한계를 극복하고 발전시켜야 합니다.
👍