Daily Arxiv

전 세계에서 발간되는 인공지능 관련 논문을 정리하는 페이지 입니다.
본 페이지는 Google Gemini를 활용해 요약 정리하며, 비영리로 운영 됩니다.
논문에 대한 저작권은 저자 및 해당 기관에 있으며, 공유 시 출처만 명기하면 됩니다.

Joint Memory Frequency and Computing Frequency Scaling for Energy-efficient DNN Inference

Created by
  • Haebom

저자

Yunchu Han, Zhaojun Nan, Sheng Zhou, Zhisheng Niu

개요

딥 뉴럴 네트워크(DNN)는 다양한 분야에 널리 사용되지만, 자원 제약적인 장치에서는 높은 지연 시간과 에너지 오버헤드 문제가 발생합니다. 대부분의 연구는 프로세서의 컴퓨팅 주파수를 변경하여 지연 시간과 에너지 소비의 균형을 맞추는 동적 전압 및 주파수 스케일링(DVFS) 기술에 초점을 맞추고 있습니다. 하지만 메모리 주파수 조정은 DNN 추론 효율을 위해 일반적으로 무시되거나 충분히 활용되지 않고 있습니다. 본 논문에서는 모델 기반 및 데이터 기반 방법을 사용하여 메모리 주파수와 컴퓨팅 주파수 스케일링을 동시에 적용했을 때의 추론 시간 및 에너지 소비에 미치는 영향을 조사합니다. 또한, 다양한 DNN 모델의 피팅 파라미터를 결합하여 제안된 모델의 예비 분석을 수행하고, 메모리 및 컴퓨팅 주파수를 동시에 조정하는 효과를 확인합니다. 마지막으로, 로컬 추론 및 협업 추론 시뮬레이션 결과를 통해 메모리 및 컴퓨팅 주파수를 함께 스케일링하여 장치의 에너지 소비를 줄이는 효과를 검증합니다.

시사점, 한계점

메모리 주파수와 컴퓨팅 주파수를 함께 조절하는 것이 에너지 소비를 줄이는 효과가 있음을 입증.
모델 기반 및 데이터 기반 방법을 사용하여 분석.
로컬 및 협업 추론 시뮬레이션을 통해 검증.
DNN 모델의 피팅 파라미터를 결합하여 분석의 일반화 가능성 제시.
논문의 구체적인 한계점에 대한 내용은 제시되지 않음.
👍