본 논문은 텐서 가속기 프로그래밍의 어려움을 해결하기 위해, 대규모 언어 모델(LLM) 기반 자동화된 코드 최적화 접근 방식인 Autocomp를 제시합니다. Autocomp는 1) 계획 및 코드 생성 단계로 나뉜 구조화된 두 단계 프롬프트를 사용하고, 2) 간결하고 적응 가능한 최적화 메뉴를 통해 도메인 지식을 통합하며, 3) 각 검색 반복에서 하드웨어의 정확성 및 성능 메트릭을 피드백으로 통합하여 작동합니다. 다양한 워크로드와 가속기에서 Autocomp는 공급업체 제공 라이브러리보다 최대 5.6배(GEMM) 및 2.7배(합성곱) 빠른 코드를 생성하며, 전문가 수준의 수동 조정 코드보다 최대 1.4배(GEMM) , 1.1배(합성곱), 1.3배(미세 입자 선형 대수) 더 나은 성능을 보였습니다. 또한, 생성된 최적화 일정을 유사한 텐서 연산에 재사용하여 고정된 샘플 예산 하에서 최대 24%의 속도 향상을 달성했습니다.
