본 논문은 텐서 처리 가속기의 잠재력을 최대한 활용하기 위해 대규모 언어 모델(LLM)을 활용한 자동화된 코드 최적화 방법인 Autocomp를 제시한다. Autocomp는 도메인 지식과 하드웨어 피드백을 활용하여 코드를 최적화하며, 계획 및 코드 생성 단계로 구성된 구조화된 프롬프트를 사용한다. 세 개의 하드웨어 플랫폼에서 벤치마킹한 결과, Autocomp는 벤더 제공 라이브러리, 전문가 수준의 수동 조정 코드, 머신 러닝 기반 비용 모델보다 뛰어난 성능을 보였다. 또한 Autocomp가 생성한 최적화 스케줄은 유사한 텐서 연산에서 재사용 가능하며, 최대 24%의 속도 향상을 달성했다.
