One Search Fits All: Pareto-Optimal Eco-Friendly Model Selection
Created by
- Haebom
Category
Empty
저자
Filippo Betello, Antonio Purificato, Vittoria Vineis, Gabriele Tolomei, Fabrizio Silvestri
개요
본 논문은 인공지능(AI) 모델 훈련의 환경적 영향을 해결하기 위해 추론 시간에서 파레토 최적의 AI 모델 구성을 추천하는 새로운 접근 방식인 GREEN(Guided Recommendations of Energy-Efficient Networks)을 제시합니다. GREEN은 다양한 AI 도메인과 작업에 걸쳐 검증 성능과 에너지 소비를 최적화합니다. 기존의 에코 효율적인 신경망 아키텍처 검색 방법의 한계(특정 아키텍처 또는 작업으로 제한)를 직접적으로 해결하며, 컴퓨터 비전, 자연어 처리, 추천 시스템에서 1767개 이상의 실험의 훈련 역학을 포함하는 EcoTaskSet 데이터 세트를 활용합니다. 예측 모델을 통해 사용자의 선호도에 따라 최적의 모델 구성을 선택하는 효과를 보이며, 에너지 효율적인 구성을 식별하면서 경쟁력 있는 성능을 보장함을 실험 결과를 통해 보여줍니다.
시사점, 한계점
•
시사점:
◦
AI 모델 훈련의 에너지 효율성 문제에 대한 새로운 접근 방식 제시.
◦
다양한 AI 도메인과 작업에 적용 가능한 일반적인 방법론 제공.
◦
사용자 선호도에 맞춘 에너지 효율적인 모델 구성 추천 가능.
◦
EcoTaskSet 데이터셋을 통해 다양한 모델의 에너지 소비 및 성능 데이터 제공.
•
한계점:
◦
EcoTaskSet 데이터셋의 범위가 모든 AI 모델과 작업을 포괄하지 못할 수 있음.
◦
예측 모델의 정확도가 실제 에너지 소비량과 성능을 완벽하게 반영하지 못할 수 있음.
◦
추론 시간에만 초점을 맞춰 훈련 과정의 에너지 소비는 고려하지 않음.
