A case for specialisation in non-human entities
Created by
- Haebom
Category
Empty
저자
El-Mahdi El-Mhamdi, Le-Nguyen Hoang, Mariame Tighanimine
개요
본 논문은 최근 대규모 언어 모델(LLM)의 발전으로 주류 AI 개발 프로그램에서 인공 일반 지능(AGI)에 대한 관심이 높아짐에 따라, 일반화의 함정을 검토하고 전문화된 시스템의 산업적 가치를 강조하며 전문화를 옹호하는 주장을 제시합니다. 논문은 첫째, 전문화에 대한 반대 주장을 검토하고, 인간 노동의 맥락에서의 그 타당성이 비인간 에이전트(알고리즘이나 인간 조직)의 경우 전문화를 지지하는 주장이 됨을 논의합니다. 둘째, 기계 학습 강건성, 컴퓨터 보안, 사회 과학 및 문화적 진화에 이르기까지 전문화를 지지하는 네 가지 주장을 제시합니다. 셋째, 명세화의 필요성을 주장하고, 기계 학습 접근 방식이 안전 공학 및 소프트웨어의 공식적 검증의 우수 사례를 따라잡지 못한 점을 논의하며, 기계 학습의 몇 가지 새로운 우수 사례가 이러한 격차를 줄이는 데 도움이 되는 방식을 논의합니다. 특히, 명세하기 어려운 시스템에 대한 명확한 거버넌스의 필요성을 정당화합니다.
시사점, 한계점
•
시사점:
◦
AGI 추구보다는 전문화된 AI 시스템 개발의 산업적 가치를 강조함으로써 AI 개발 방향에 대한 새로운 관점 제시.
◦
기계 학습의 강건성, 보안, 사회적 영향 등 다양한 측면에서 전문화의 이점을 제시.
◦
명세화 및 명확한 거버넌스의 중요성을 강조하여 AI 시스템의 안전성 및 신뢰성 확보 방안 모색.
•
한계점:
◦
전문화된 AI 시스템 개발의 구체적인 방법론이나 사례 연구 부족.
◦
AGI에 대한 반대 주장에 대한 반박의 충분성 여부에 대한 추가 논의 필요.
◦
명세하기 어려운 시스템에 대한 '명확한 거버넌스'의 구체적인 내용 부재.
