본 논문은 인공지능(AI) 연구의 발전 속도가 인간의 인지 능력에 의해 제한되는 문제를 해결하기 위해, AI가 스스로 새로운 아키텍처를 발견하고 혁신하는 인공 초지능(ASI) 시스템인 ASI-Arch를 제시한다. 기존의 Neural Architecture Search (NAS)가 인간이 정의한 공간 내에서만 탐색하는 것과 달리, ASI-Arch는 자동화된 최적화를 넘어 자동화된 혁신을 가능하게 한다. ASI-Arch는 새로운 아키텍처 개념을 가설화하고, 실행 가능한 코드로 구현하고, 실험을 통해 성능을 검증하는 등의 과정을 자율적으로 수행한다. 20,000 GPU 시간 동안 1,773번의 자율적 실험을 통해 106개의 혁신적인 최첨단 선형 어텐션 아키텍처를 발견하였으며, 이는 인간이 설계한 기준보다 우수한 성능을 보였다. 또한, 본 논문은 과학적 발견 자체에 대한 최초의 경험적 스케일링 법칙을 제시하여, 아키텍처 혁신을 계산적으로 확장할 수 있음을 보여준다.