Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Mind the Gap: Revealing Inconsistencies Across Heterogeneous AI Accelerators

Created by
  • Haebom
Category
Empty

저자

Elliott Wen, Sean Ma, Ewan Tempero, Jens Dietrich, Daniel Luo, Jiaxing Shen, Kaiqi Zhao, Bruce Sham, Yousong Song, Jiayi Hua, Jia Hong

개요

본 논문은 클라우드 데이터 센터에서 AI 가속기의 지배적인 공급자인 NVIDIA 외에 AMD, Intel, Mac, Huawei와 같은 신규 벤더들의 AI 가속기에서 머신러닝 모델의 차이를 조사하는 첫 번째 실증 연구를 제시한다. 자동화된 파이프라인을 사용하여 4,000개의 실제 모델에서 파생된 100,000개 이상의 변형 모델을 합성하고 5개의 서로 다른 엔터프라이즈급 가속기에서 실행했다. 연구 결과, Mac과 Huawei의 새로운 AI 플랫폼은 NVIDIA보다 최소 17% 적은 연산자를 지원하며, 연산자 구현의 차이, 예외적인 수치 값 처리, 명령어 스케줄링 등으로 인해 5% 이상의 출력 불일치율을 보인다. 또한, 모델 컴파일 기반 가속화 중 실패에 더 취약하며, 일부 경우 컴파일된 모델은 표준 실행 모드를 사용하여 생성된 출력과 눈에 띄게 다른 출력을 생성한다. PyTorch에서 7개의 구현 결함과 벤더 전반에서 40개의 플랫폼별 문제를 확인했다.

시사점, 한계점

시사점:
Mac 및 Huawei의 새로운 AI 플랫폼은 NVIDIA보다 적은 수의 연산자를 지원한다.
Mac 및 Huawei 플랫폼은 출력 불일치율이 높다.
모델 컴파일 기반 가속화 중 실패에 더 취약하다.
PyTorch 및 각 플랫폼에서 구현 문제가 발견되었다.
한계점:
다양한 하드웨어 생태계에서 일관된 머신러닝 동작을 달성하는 데 어려움이 있다.
👍