Sign In

VizTrust: A Visual Analytics Tool for Capturing User Trust Dynamics in Human-AI Communication

Created by
  • Haebom
Category
Empty

저자

Xin Wang, Stephanie Tulk Jesso, Sadamori Kojaku, David M Neyens, Min Sun Kim

개요

VizTrust는 인간-인공지능 상호작용에서 사용자의 신뢰 역동성을 실시간으로 시각화하고 분석하는 도구입니다. 기존 설문조사 방식의 한계를 극복하고자 다중 에이전트 협업 시스템을 활용하여 신뢰 형성 과정을 실시간으로 모니터링합니다. 능력, 성실성, 친절성, 예측 가능성 등 기존의 인간-컴퓨터 신뢰 척도를 기반으로 구축되어, 신뢰 형성 패턴을 파악하고 신뢰에 영향을 미치는 특정 상호작용 요소를 식별하는 데 도움을 줍니다. 대시보드를 통해 실시간으로 실행 가능한 통찰력을 제공하여, 사용자 신뢰 신호에 효과적으로 반응하는 적응형 대화형 에이전트 설계를 지원합니다.

시사점, 한계점

시사점:
인간-AI 상호작용에서의 신뢰 역동성을 실시간으로 시각화 및 분석 가능
신뢰 형성 과정에 대한 통찰력 제공 및 적응형 대화 에이전트 설계 지원
다중 에이전트 협업 시스템을 활용한 신뢰 측정의 새로운 접근 방식 제시
신뢰에 영향을 미치는 특정 상호작용 요소 식별 가능
한계점:
VizTrust의 일반화 가능성 및 다양한 AI 시스템 및 상황에 대한 적용성 검증 필요
사용자 신뢰에 영향을 미치는 요인에 대한 포괄적인 분석이 부족할 가능성
특정 척도에 의존하는 신뢰 측정의 한계 존재 (주관적인 평가 포함 가능성)
실시간 분석의 정확성과 신뢰도에 대한 추가적인 검증 필요
👍