본 논문은 AI 연산의 높은 전력 소모량과 증가하는 추론 작업량으로 인해 급증하는 AI 전력 수요에 대해 논의합니다. 풍력 발전의 풍부한 공급을 고려하여, 풍력 발전소에 모듈식 컴퓨팅 클러스터를 공동 배치하여 AI 작업량을 처리하는 방안을 제시합니다. 경제적인 타당성을 확보하기 위한 배치 최적화 전략을 통해 600만 개 이상의 고성능 GPU를 저렴한 친환경 에너지를 사용하여 배치할 수 있음을 보여줍니다. 또한, 풍력 발전소 간의 전력 생산 변동성을 활용하여 AI 추론 작업량을 라우팅하는 Heron이라는 교차 사이트 소프트웨어 라우터를 개발하여, 최첨단 기술 대비 AI 연산의 총 처리량을 최대 80% 향상시킬 수 있음을 Azure와 실제 풍력 발전량 데이터를 사용한 실험을 통해 입증합니다.
시사점, 한계점
•
시사점:
◦
풍력 에너지를 활용한 AI 컴퓨팅 인프라 구축의 경제적 타당성 제시
◦
풍력 발전 변동성을 고려한 효율적인 AI 작업량 라우팅 전략 제시
◦
Heron 소프트웨어 라우터를 통해 AI 연산 처리량을 크게 향상시킬 수 있음을 증명
◦
지속 가능한 AI 컴퓨팅 인프라 구축을 위한 새로운 패러다임 제시
•
한계점:
◦
1주일 분량의 데이터를 사용한 실험 결과로 장기적인 안정성 및 일반화 가능성에 대한 추가 연구 필요
◦
Heron의 실제 풍력 발전소 환경에서의 구축 및 운영에 대한 추가적인 검증 필요
◦
다양한 유형의 AI 작업량에 대한 Heron의 성능 평가 필요
◦
풍력 발전소의 위치 및 그리드 접속 문제 등의 현실적인 제약 조건에 대한 추가적인 고려 필요