The Eticas AI Risk Taxonomy: Open Infrastructure for Operationalizing AI Audits
작성자
카테고리
Empty
저자
Gemma Galdon Clavell, Pablo Accuosto, Usman Gohar
💡 개요
AI 시스템의 급속한 확산으로 표준화된 평가의 필요성이 대두되었으나, 기존의 AI 위험 분류 체계들은 위험을 나열하는 데 그쳐 감사 수행 방법을 제시하지 못하는 한계를 보였습니다. 본 논문은 이러한 문제점을 해결하기 위해, 위험을 구체적인 테스트와 측정 가능한 값으로 변환하여 감사 절차를 실질적으로 운영할 수 있도록 하는 'Eticas AI Risk Taxonomy'를 제안합니다. 이 분류 체계는 GPT-4 모델에 대한 개인정보 유출 위험을 예시로 들어, 위험의 개념화부터 구체적인 등급 부여까지의 과정을 성공적으로 시연합니다.
🔑 시사점 및 한계
•
AI 감사 분야에서 위험 분류 체계의 실질적인 운영 가능성(operationalization)을 높이는 것이 중요함을 강조하며, 이를 위한 구체적인 방법론을 제시합니다.
•
공개된 분류 체계와 작동 방식은 AI 감사 방법론의 표준화 및 공유를 촉진하여, AI 시스템의 안전성과 신뢰성을 높이는 데 기여할 수 있습니다.
•
본 연구는 특정 위험(개인정보 유출)에 대한 구체적인 적용 사례를 제시하지만, 다양한 AI 시스템 및 위험 유형에 대한 확장성 및 검증이 추가적으로 필요합니다.
