Inference Scaling Reshapes AI Governance
Created by
- Haebom
Category
Empty
저자
Toby Ord
개요
본 논문은 AI 시스템의 사전 훈련 컴퓨팅 확장에서 추론 컴퓨팅 확장으로의 전환이 AI 거버넌스에 미칠 수 있는 심대한 영향에 대해 논의한다. 이러한 영향의 본질은 새로운 추론 컴퓨팅이 주로 외부 배포 중에 사용될지 또는 실험실 내에서 더 복잡한 훈련 프로그램의 일부로 사용될지에 따라 크게 달라진다. 배포 시 추론의 급속한 확장은 개방형 가중치 모델의 중요성을 낮추고, 폐쇄형 모델의 가중치 확보의 영향을 감소시키며, 최초의 인간 수준 모델의 영향을 줄이고, 최첨단 AI의 비즈니스 모델을 변화시키며, 전력 집약적인 데이터 센터의 필요성을 줄이고, 훈련 컴퓨팅 임계값을 통한 현재의 AI 거버넌스 패러다임을 벗어나게 할 것이다. 훈련 중 추론의 급속한 확장은 사전 훈련 확장의 활성화부터 반복적 증류 및 증폭을 통한 일종의 재귀적 자기 개선에 이르기까지 더 모호한 영향을 미칠 것이다.
시사점, 한계점
•
시사점:
◦
추론 컴퓨팅 확장은 AI 거버넌스 패러다임을 변화시킬 수 있다.
◦
배포 시 추론 확장은 개방형 가중치 모델의 중요성을 낮추고, 전력 소비를 줄일 수 있다.
◦
훈련 중 추론 확장은 AI 시스템의 자기 개선을 가속화할 수 있다.
•
한계점:
◦
훈련 중 추론 확장의 영향은 모호하며 추가적인 연구가 필요하다.
◦
논문은 추론 컴퓨팅 확장의 구체적인 기술적, 경제적 요인에 대해 자세히 다루지 않는다.
◦
AI 거버넌스에 대한 제안이나 해결책은 제시하지 않는다.
