Sign In

Bringing AI Participation Down to Scale: A Comment on Open AIs Democratic Inputs to AI Project

Created by
  • Haebom
Category
Empty

저자

David Moats, Chandrima Ganguly

개요

OpenAI의 민주적 입력 프로그램(Democratic Inputs program)이 10개 팀에게 자금을 지원하여 생성형 AI에 대한 대중 참여 절차를 설계한 결과를 검토한 논문입니다. 논문에서는 인터뷰와 참여 활동 경험을 바탕으로 프로그램의 암묵적인 가정 6가지(1. 참여의 확장성, 2. 단일 모델을 대상으로 한 참여, 3. 단일 참여 방식, 4. 추상적 원칙 도출 목표, 5. 원칙에 대한 합의, 6. 대표성 있는 대중 참여)를 제시하고, 기술 기업이 아닌 다른 형태의 AI 참여를 촉구합니다.

시사점, 한계점

시사점:
기술 기업이 주도하는 AI 개발 과정에서 대중 참여의 중요성을 강조.
다양한 참여 방식과 대상에 대한 고려 필요성 제시.
단일 모델 중심의 접근 방식의 한계를 지적.
추상적 원칙 도출보다는 더욱 구체적이고 실질적인 참여 방식 모색 필요성 제시.
기술 기업이 아닌 다른 주체의 AI 참여 확대 필요성 제기.
한계점:
프로그램 참여 팀의 제한된 수를 바탕으로 일반화하는데 한계 존재.
인터뷰와 참여 활동 경험에 국한된 분석으로 일반성 확보에 어려움.
제시된 암묵적 가정 이외의 다른 중요한 요소 간과 가능성 존재.
대안적인 참여 방식에 대한 구체적인 제안 부족.
👍