본 논문은 급속히 발전하는 인공지능(AI) 시스템의 잠재적 위험을 효과적으로 평가하기 위한 확률적 위험 평가(PRA) 프레임워크를 제시한다. 기존의 PRA 기법(원자력, 항공우주 산업 등)을 AI 시스템에 적용하여 잠재적 위험 식별, 발생 가능성 및 심각도 추정, 근거 및 가정 명시 등을 체계적으로 수행하는 방법을 제시한다. 특히, AI 시스템의 다양한 측면(능력, 지식, 기능 등)을 고려한 위험 분석, 시스템 측면에서 사회적 영향까지의 인과 관계 분석, 불확실성 관리를 위한 시나리오 분해 및 참조 척도 활용 등 세 가지 방법론적 발전을 제시하며, 이를 통해 AI 개발자, 평가자, 규제 기관을 위한 워크북 도구로 구현하였다. 다양한 평가 방법들을 통합하여 비교 가능한 정량적 절대 위험 추정치를 제공하여 라이프사이클 의사결정에 활용할 수 있도록 한다.
