Reframing AI Loss of Control: What Control Is, How to Have It, How to Lose It
Author
- Haebom
Category
Empty
저자
Ze Shen Chin, Maurice Chiodo, Dennis Muller, Coleman Snell
💡 개요
본 논문은 AI 분야에서 논의되는 '통제력 상실'의 개념적 기반이 약하다는 점을 지적하며, 통제력이란 '목표 설정 및 달성'에 기반한다는 명확한 정의를 제시합니다. 사이버네틱스, 경영 통제, 제어 이론 등 관련 분야의 개념을 바탕으로 누가(또는 무엇이) 통제력을 가질 수 있는지, 그리고 통제력 유지를 위해 필요한 요소(목표 설정 능력, 제어 루프, 충분한 다양성, 목표 정렬 등)를 논합니다. 이를 통해 AI가 통제력 상실에 어떻게 기여할 수 있는지 분석하고, 통제력 유지 방안을 제안합니다.
🔑 시사점 및 한계
•
AI의 초지능적 수준에 도달하기 전에도 인간은 개별적으로 또는 집단적으로 다양한 수준의 통제력을 상실할 수 있으며, 이는 이미 존재하는 시나리오입니다.
•
통제력 상실의 위험은 AI의 발전 속도와 무관하게, 인간과 AI 간의 상호작용 설계 및 목표 설정 방식에 근본적인 문제가 있을 때 발생할 수 있습니다.
•
본 연구는 '통제력'에 대한 명확한 틀을 제공하지만, 실제 AI 시스템에 적용하고 다양한 맥락에서 통제력 상실을 정량화하고 예측하는 방법에 대한 추가적인 연구가 필요합니다.
