본 논문은 포인트 클라우드 분류를 위한 신경망에 대한 새로운 분할 기반 설명 가능한 인공지능(XAI) 방법을 제안한다. 핵심 구성 요소로, 포인트 클라우드 데이터에 섭동을 도입하는 새로운 포인트 이동 메커니즘을 제시한다. 중요 영역에 적용될 때 AI 알고리즘의 의사결정 과정을 이해하는 것이 중요해짐에 따라, 본 연구는 포인트 클라우드 데이터를 분류하는 AI 알고리즘을 설명하는 데 초점을 맞춘다. 인간이 쉽게 이해할 수 있는 설명을 생성하는 능력이 중요하며, 이를 통해 AI 알고리즘을 더 잘 분석하고 적절한 결정을 내릴 수 있다. 본 연구는 자동차, 기타, 노트북과 같은 3D 객체를 나타내는 포인트 클라우드 데이터를 사용하며, 포인트 클라우드 분할 모델을 이용하여 분류 모델의 작동에 대한 설명을 생성한다. 세그먼트는 입력 포인트 클라우드 데이터에 섭동을 도입하고 중요도 지도를 생성하는 데 사용되며, 새로운 포인트 이동 메커니즘을 통해 이동된 점이 더 이상 분류 알고리즘의 출력에 영향을 미치지 않도록 한다. 기존 방법과 달리, 본 방법에서 사용되는 세그먼트는 인간이 쉽게 해석할 수 있는 의미 있는 세그먼트이다. 따라서 기존 방법보다 더 의미있는 중요도 지도를 생성하는 것이 장점이다. 본 논문에서는 설명 생성을 위해 고전적인 클러스터링 알고리즘을 사용하는 방법과 비교하고, 제안된 방법을 사용하여 생성된 예시 입력에 대한 중요도 지도를 분석하여 의미 있는 설명을 생성하는 방법의 유용성을 보여준다.
