Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Confronting Catastrophic Risk: The International Obligation to Regulate Artificial Intelligence

Created by
  • Haebom
Category
Empty

저자

Bryan Druzin, Anatole Boute, Michael Ramsden

개요

본 논문은 인공지능(AI)의 발전이 인류 멸망에 대한 실질적인 위협이 될 수 있다는 전문가들의 우려를 바탕으로, 기존의 AI 관련 규제들이 소비자 안전, 사이버 보안, 데이터 보호 및 개인 정보 보호 등의 개별적 위험에만 초점을 맞추고 인류 멸망 가능성이라는 근본적 위협을 다루지 못하고 있음을 지적한다. 따라서 공공 국제법이 AI 개발을 규제할 국가적 의무를 부과하는지 여부를 질문하며, 예방적 원칙을 근거로 인류 멸망 위협을 완화할 국제적 의무가 존재한다고 주장한다. 환경 규제 및 잠재적으로 유해한 기술 규제와 관련하여 자주 언급되는 예방적 원칙을 적용하여, 완전한 과학적 확실성이 없더라도 중대한 피해 가능성이 있는 상황에서는 지연으로 인해 돌이킬 수 없는 결과가 초래될 수 있다면 예방 조치를 연기해서는 안 된다고 주장한다. 이를 통해 예방적 원칙이 국제법의 일반 원칙이며, 따라서 국제 인권법 내 생명권에 따라 AI의 잠재적 존재적 위험을 완화하기 위한 사전적 규제 조치를 취할 국가의 긍정적 의무가 있다고 주장한다. 국제법에 따라 AI 개발을 규제할 국제적 의무를 확립할 수 있다면, 이러한 진화하는 위협을 해결하기 위한 기본적인 법적 체계가 마련될 것이라고 강조한다.

시사점, 한계점

시사점: 국제법상 AI 개발 규제에 대한 국제적 의무의 존재 가능성 제시, 인류 멸망 가능성에 대한 예방적 원칙 적용의 중요성 강조, 국제 인권법(생명권)과 AI 규제의 연관성 제시, AI 위협에 대한 법적 기반 마련의 가능성 제시.
한계점: "인류 멸망"이라는 극단적 위험에 대한 과학적 증거의 부족, 예방적 원칙의 적용 범위 및 강제성에 대한 논의 부족, 국제적 협력 및 집행 가능성에 대한 구체적 방안 제시 부족, AI 개발의 다양한 측면과 관련된 법적, 윤리적 문제에 대한 포괄적 논의 부족.
👍