Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Bottom-Up Perspectives on AI Governance: Insights from User Reviews of AI Products

Created by
  • Haebom

저자

Stefan Pasch

개요

본 논문은 AI 거버넌스에 대한 상위 수준의 프레임워크와 원칙들이 실제 AI 시스템과 상호 작용하는 사람들의 실질적인 우려를 충분히 반영하지 못한다는 점을 지적하며, G2.com의 10만 건 이상의 AI 제품 사용자 리뷰를 활용하여 하향식 접근 방식으로 AI 거버넌스 관련 주제들을 탐색합니다. BERTopic을 이용하여 잠재적인 주제들을 추출하고 AI 거버넌스와 의미적으로 가장 관련된 주제들을 식별함으로써, 조직 프로세스(계획, 조정, 의사소통 등) 및 AI 가치 사슬의 단계(배포 인프라, 데이터 처리, 분석 등)에 걸친 다양한 거버넌스 관련 주제들을 밝혀냅니다. 분석 결과, 개인정보 보호 및 투명성과 같은 기존 AI 거버넌스 및 윤리 프레임워크와 상당 부분 일치하는 부분이 있지만, 프로젝트 관리, 전략 개발, 고객 상호 작용과 같은 간과된 영역도 드러납니다. 따라서 본 연구는 경험적이고 사용자 중심적인 AI 거버넌스 접근 방식의 필요성을 강조하며, 실제 적용 환경에서 거버넌스가 어떻게 실행되는지를 보여줌으로써 더욱 포괄적이고 운영적으로 기반을 둔 AI 거버넌스 및 디지털 정책에 기여합니다.

시사점, 한계점

시사점:
사용자 관점에서 AI 거버넌스의 실제 적용 사례를 보여줌으로써, 기존의 상위 수준 프레임워크를 보완하고 더욱 현실적인 AI 거버넌스 방안을 제시합니다.
기존 프레임워크에서는 간과되었던 프로젝트 관리, 전략 개발, 고객 상호작용 등의 중요한 거버넌스 관련 영역을 제시합니다.
더욱 포괄적이고 운영적으로 기반을 둔 AI 거버넌스 및 디지털 정책 수립에 기여합니다.
경험적이고 사용자 중심적인 AI 거버넌스 접근 방식의 필요성을 강조합니다.
한계점:
G2.com 리뷰 데이터에만 의존하여 분석을 수행하였으므로, 사용자 리뷰의 편향성이나 일반화 가능성에 대한 검토가 필요합니다.
분석에 사용된 BERTopic의 한계점이나 다른 주제 모델링 기법과의 비교 분석이 부족합니다.
특정 플랫폼의 리뷰 데이터만을 사용했기 때문에, 다른 플랫폼이나 지역의 사용자 경험을 반영하지 못할 수 있습니다.
AI 거버넌스의 모든 측면을 포괄하지 못할 수 있으며, 더욱 심층적인 질적 연구가 필요할 수 있습니다.
👍