Talking Back -- human input and explanations to interactive AI systems
Created by
Haebom
Category
Empty
저자
Alan Dix, Tommaso Turchi, Ben Wilson, Anna Monreale, Matt Roach
개요
본 논문은 XAI(설명 가능한 인공지능)의 기존 접근 방식인 인공지능이 인간에게 설명을 제공하는 것에서 벗어나, 인간이 인공지능에게 판단 과정을 설명함으로써 인간과 인공지능 간의 상승작용을 강화할 수 있는지 탐구한다. 다양한 형태의 인간 입력을 AI에 적용하고, 인간의 설명이 기계 학습 모델을 어떻게 안내하여 인간의 개념과 더욱 일치하는 자동화된 판단 및 설명을 생성하는지 조사한다.
시사점, 한계점
•
시사점: 인간의 설명을 활용한 새로운 XAI 접근 방식 제시. 인간과 AI 간의 상호작용을 통해 더욱 풍부하고 시너지 효과를 내는 시스템 구축 가능성 제시. 인간의 개념에 더욱 부합하는 AI 판단 및 설명 생성 가능성 제시.
•
한계점: 본 논문에서는 구체적인 방법론이나 실험 결과가 제시되지 않아 실제 효용성 검증이 부족하다. 다양한 형태의 인간 입력에 대한 구체적인 예시 및 분석이 부족하다. 인간 설명의 신뢰성 및 객관성 확보 방안에 대한 논의가 미흡하다.
