Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Forecasting AI Time Horizon Under Compute Slowdowns

Created by
  • Haebom
Category
Empty

저자

Parker Whitfill, Ben Snodin, Joel Becker

개요

2019년 이후 METR의 시간 지평선 메트릭은 컴퓨팅과 함께 기하급수적으로 증가했습니다. 그러나 컴퓨팅 확장이 2030년까지 현재 속도로 지속될지는 불분명하며, 컴퓨팅 속도 저하가 AI 에이전트 성능 예측에 어떤 영향을 미칠 수 있는지에 대한 의문을 제기합니다. 시간 지평선을 훈련 컴퓨팅과 알고리즘의 함수로, 그리고 컴퓨팅 투자가 알고리즘적 발전에 어떻게 영향을 미치는지에 대한 모델을 사용하여 (소프트웨어 단독 특이점의 가능성을 배제), 시간 지평선과 컴퓨팅이 2019-2025년 동안 일정한 속도로 증가했다는 경험적 사실을 바탕으로 시간 지평선 성장이 컴퓨팅 성장에 비례해야 함을 도출했습니다. 이 이론과 일치하는 추가적인 실험적 증거를 제시합니다. OpenAI의 컴퓨팅 예측을 바탕으로 시간 지평선 성장을 예측한 결과, 일부 경우에 상당한 지연이 예상되었습니다. 예를 들어, 80% 신뢰도로 1개월 시간 지평선은 단순한 추세 외삽법보다 7년 늦게 나타납니다.

시사점, 한계점

시간 지평선 성장은 컴퓨팅 성장에 비례해야 함을 이론적으로 도출하고, 이에 대한 증거를 제시.
OpenAI의 컴퓨팅 예측을 사용하여 시간 지평선 성장을 예측하고, 상당한 지연 가능성을 제시.
소프트웨어 단독 특이점의 가능성을 배제.
실험적 증거가 제한적임.
OpenAI의 컴퓨팅 예측에 의존.
👍