본 논문은 AI 시스템에서 분기(bifurcation)에 의해 발생하는 돌발적인 변화(jump)와 그에 따른 극단적인 결과 분포(heavy-tailed outcome distributions)를 분석합니다. 특히, 제어 매개변수의 임계값 근처에서의 무작위 변동이 극단적인 결과를 생성하는 과정을 분석하여, 갑작스럽고 대규모의 전이(transition) 확률이 결과 손상 분포의 꼬리 확률(tail probability)과 얼마나 잘 일치하는지를 보여줍니다. 이 연구는 잠재적으로 치명적인 AI 위험 관리를 위한 AI 시스템의 모니터링, 완화 및 제어 연구에 기여합니다.
