본 논문은 텐서 처리 가속기 프로그래밍의 어려움을 해결하기 위해, 대규모 언어 모델(LLM) 기반 자동화된 코드 최적화 접근 방식인 Autocomp를 제시합니다. Autocomp는 최적화 과정을 계획 및 코드 생성 단계로 나눈 구조화된 프롬프트를 사용하고, 도메인 지식을 통합하며, 하드웨어 피드백을 활용하여 반복적인 검색을 통해 코드를 최적화합니다. 세 가지 대표적인 작업 부하와 두 가지 가속기에서 Autocomp를 통해 최적화된 코드는 기존 벤더 제공 라이브러리보다 최대 5.6배(GEMM), 2.7배(합성곱) 빠르게 실행되었으며, 전문가 수준의 수동 최적화 코드보다 최대 1.4배(GEMM), 1.3배(미세 입자 선형 대수) 빠른 성능을 보였습니다. 또한, Autocomp에서 생성된 최적화 일정은 유사한 텐서 연산에 재사용 가능하며, 고정된 샘플 예산 하에서 최대 24%의 속도 향상을 보였습니다.
