생성 모델의 투명성, 책임성 및 저작권 침해 우려가 커짐에 따라, 특정 훈련 데이터가 모델 출력에 어떻게 기여하는지 이해하는 것이 중요해졌습니다. 본 논문은 생성된 결과물을 해석하기 위한 프레임워크를 제시하며, 자동적으로 온톨로지 정렬된 지식 그래프(KG)를 구축합니다. 이미지로부터 구조화된 정보를 추출하는 어려움에도 불구하고, 멀티모달 대형 언어 모델(LLM)을 활용하여 이미지에서 도메인 특정 온톨로지에 맞춰진 구조화된 삼중항을 추출합니다. 생성된 이미지와 훈련 이미지의 KG를 비교함으로써 잠재적 영향을 추적하여 저작권 분석, 데이터셋 투명성, 해석 가능한 AI를 가능하게 합니다. 지역적으로 훈련된 모델의 학습 제거 실험 및 스타일별 대규모 모델 실험을 통해 방법을 검증했습니다. 이 프레임워크는 인간 협업, 창의성을 촉진하고 호기심을 자극하는 AI 시스템 개발을 지원합니다.
