Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Public Constitutional AI

Created by
  • Haebom

저자

Gilad Abiri

개요

본 논문은 AI 시스템의 거버넌스에 있어서 합법성 확보 방안을 모색한다. Anthropic이 제안한 헌법적 AI(Constitutional AI)는 투명성과 책임성을 높이지만, 개별 AI 결정의 불투명성과 진정한 민주적 정당성 확보에는 미흡하다고 주장한다. 이에 논문은 시민들의 참여를 통해 AI 개발 원칙을 논의하고, 'AI 헌법'을 제정하는 '공공 헌법적 AI(Public Constitutional AI)'를 제안한다. 'AI 법정'을 통해 'AI 판례'를 개발하여 AI 헌법의 원칙을 구체화하고, AI 거버넌스를 대중의 가치에 더욱 민감하게 반응하도록 한다. 이는 민주적 의사결정 과정을 통해 AI의 합법성을 확보하고 공공 이익과의 조화를 추구하는 방안이다.

시사점, 한계점

시사점:
AI 거버넌스에 대한 새로운 접근 방식인 '공공 헌법적 AI' 제시
시민 참여를 통한 AI 개발 원칙 설정 및 'AI 헌법' 제정의 중요성 강조
'AI 법정'과 'AI 판례'를 통한 AI 거버넌스의 구체화 방안 제시
AI 시스템의 민주적 정당성 확보 방안 제시
AI의 공공 이익과의 조화를 위한 실질적인 해결책 모색
한계점:
'공공 헌법적 AI'의 구체적인 실행 방안 및 효과에 대한 검증 부족
다양한 이해관계자들의 참여 및 의견 조율 과정에서 발생할 수 있는 어려움에 대한 고려 부족
'AI 법정'의 구성 및 운영 방식에 대한 자세한 설명 부족
'AI 판례'의 객관성 및 공정성 확보 방안에 대한 논의 부족
👍