A Framework for Evaluating Zero-Shot Image Generation in Concept-based Explainability

작성자

Haebom

카테고리

Empty

저자

Giacomo Astolfi, Matteo Bianchi, Riccardo Campi, Antonio De Santis, Marco Brambilla

💡 개요

본 연구는 인간이 이해할 수 있는 시각적 특징을 활용하여 딥러닝 모델을 해석하는 개념 기반 설명 가능한 AI(XAI) 방법론에서 대규모 레이블링된 이미지 데이터셋의 필요성을 완화하기 위해 제로샷 텍스트-이미지(T2I) 생성 모델을 합성 개념 데이터셋의 소스로 활용하는 새로운 프레임워크를 제안합니다. 제안된 방법은 미리 정의된 프롬프트를 사용하여 개념을 생성하고, 개념 표현 유사도, 개념 자체의 일관성, 다운스트림 설명 작업 성능, 개념 제거 시 설명 변화 등 네 가지 분석을 통해 합성 개념이 실제 개념과 얼마나 충실한지 평가합니다.

🔑 시사점 및 한계

•

제로샷 T2I 생성 모델은 개념 기반 XAI를 위한 합성 데이터셋 생성에 잠재력을 가지며, 대규모 레이블링 데이터셋에 대한 의존성을 줄일 수 있습니다.

•

합성 개념 데이터셋은 실제 데이터와 유사한 특성을 일부 가지지만, 모델 분석에 사용하기 전에 충실도를 신중하게 평가해야 합니다.

•

현재의 제로샷 T2I 생성 모델을 사용하여 생성된 합성 데이터는 모델 분석에 사용될 때 해결해야 할 과제와 열린 질문을 제기하며, 합성 데이터의 신뢰성에 대한 추가 연구가 필요합니다.

PDF 보기

Made with Slashpage