Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

CASS: Nvidia to AMD Transpilation with Data, Models, and Benchmark

Created by
  • Haebom

저자

Ahmed Heakl, Sarim Hashmi, Gustavo Bertolo Stahl, Seung Hun Eddie Han, Salman Khan, Abdulrahman Mahmoud

개요

CASS는 CUDA와 HIP, Nvidia SASS와 AMD RDNA3 간의 크로스 아키텍처 GPU 코드 변환을 위한 최초의 대규모 데이터셋 및 모델 모음입니다. 7만 개의 검증된 코드 쌍을 포함하며, 저수준 GPU 코드 이식성 문제를 해결합니다. CASS는 도메인 특화 언어 모델로, 소스 변환 정확도 95%, 어셈블리 변환 정확도 37.5%를 달성하여 GPT-4o, Claude, Hipify와 같은 상용 기준 모델을 능가합니다. 생성된 코드는 테스트 사례의 85% 이상에서 기본 성능과 일치하며, 런타임 및 메모리 동작을 유지합니다. 엄격한 평가를 위해 16개 GPU 도메인을 포함하는 CASS-Bench 벤치마크를 도입했습니다. 모든 데이터, 모델 및 평가 도구는 오픈소스로 공개됩니다. 데이터셋과 벤치마크는 HuggingFace에서, 코드는 GitHub에서 이용 가능합니다.

시사점, 한계점

시사점:
CUDA와 HIP, Nvidia SASS와 AMD RDNA3 간의 크로스 아키텍처 GPU 코드 변환을 위한 대규모 데이터셋 및 모델을 최초로 제공합니다.
기존 상용 모델보다 높은 변환 정확도를 달성합니다.
생성된 코드는 대부분의 경우 기본 성능과 유사한 성능을 보입니다.
오픈소스로 공개되어 GPU 컴파일러 도구, 바이너리 호환성 및 LLM 기반 하드웨어 변환 분야의 발전에 기여할 수 있습니다.
한계점:
어셈블리 변환 정확도(37.5%)가 소스 변환 정확도(95%)에 비해 상대적으로 낮습니다.
생성된 코드가 기본 성능과 일치하지 않는 테스트 사례가 15% 존재합니다.
벤치마크의 범위가 16개 GPU 도메인으로 제한적일 수 있습니다.
👍