Dynamic Pricing for On-Demand DNN Inference in the Edge-AI Market
Created by
- Haebom
Category
Empty
저자
Songyuan Li, Jia Hu, Geyong Min, Haojun Huang, Jiwei Huang
개요
본 논문은 에지 컴퓨팅과 AI의 융합으로 떠오르는 에지 AI에서 실시간 AI 애플리케이션 및 서비스 제공을 위한 에지 추론 가속화 문제를 다룬다. 기존 연구는 실용적인 에지 AI 시장 관점을 채택하지 않아 AI 사용자의 개인화된 추론 요구(정확도, 지연 시간, 작업 복잡도), 에지 추론 서비스 제공업체의 수익 유인책, 시장 지향적 맥락에서의 다 이해관계자 거버넌스를 체계적으로 탐구하지 못했다. 이를 해결하기 위해, 본 논문은 DNN 모델 분할, 에지 추론 가격 책정, 자원 할당의 다차원 최적화 문제를 해결하는 수익 극대화를 위한 경매 기반 에지 추론 가격 책정 메커니즘(AERIA)을 제안한다. 주문형 DNN 추론 가속화를 위한 다중 종료 장치-에지 시너지 추론 방식을 조사하고, AI 서비스 제공업체, AI 사용자 및 에지 인프라 제공업체 간의 경매 역학을 분석한다. 무작위 합의 추정 및 비용 분담 기술을 통한 전략적 메커니즘 설계 덕분에, 에지 AI 시장은 수익 극대화, 인센티브 호환성, 부러움 없는 경쟁 등 여러 가지 바람직한 특성을 달성하여 경매 결과의 효과, 진실성 및 공정성을 유지하는 데 중요하다. 4개의 대표적인 DNN 추론 작업 부하를 기반으로 한 광범위한 시뮬레이션 실험은 AERIA 메커니즘이 수익 극대화에서 여러 최첨단 접근 방식을 크게 능가함을 보여주어 에지 AI 시장에서 주문형 DNN 추론에 대한 AERIA의 효과를 입증한다.
시사점, 한계점
•
시사점:
◦
에지 AI 시장의 실용적 관점을 반영한 에지 추론 가속화 메커니즘 제시 (AERIA).
◦
AI 사용자의 개인화된 요구, 서비스 제공업체의 수익 유인, 다 이해관계자 거버넌스 고려.
◦
수익 극대화, 인센티브 호환성, 부러움 없는 경쟁 등의 바람직한 시장 특성 확보.
◦
광범위한 시뮬레이션 실험을 통해 AERIA의 효과성 검증.
•
한계점:
◦
실제 에지 AI 시장 환경의 복잡성을 완전히 반영하지 못할 가능성.
◦
시뮬레이션 결과의 일반화 가능성에 대한 추가 연구 필요.
◦
다양한 DNN 모델 및 작업 부하에 대한 더욱 광범위한 실험 필요.
◦
AERIA 메커니즘의 실제 구현 및 배포에 대한 추가 연구 필요.
