해봄의 아카이브
2023 엔비디아(NVIDIA)의 최우수 고객은 누구일까?
Haebom
Omdia Research는 최근 <클라우드 및 데이터 센터 시장 업데이트> 보고서에서 H100 GPU의 출하량은 2023년 2분기 동안 900톤에 달했습니다. 이는 서버 제조업체가 조립 라인에 투입한 H100 GPU가 300,000개 이상이라는 것을 의미하며, 각 GPU의 무게(방열판 포함)를 약 3kg으로 가정한 수치입니다. 이러한 분석은 데이터 센터 투자 우선 순위의 변화와 AI 처리 작업을 위한 8개 GPU가 장착된 서버에 대한 수요 증가를 감안해 계산된 수치 입니다.
회사명 | 예상 판매량(대) | 회사 설명 |
Meta | 150,000 | 소셜 미디어 및 기술 서비스를 제공하는 글로벌 기업 |
Microsoft | 150,000 | 소프트웨어 개발, 컴퓨터 하드웨어, 클라우드 컴퓨팅 서비스 전문 기업 |
Google | 50,000 | 검색 엔진, 클라우드 컴퓨팅, 광고 기술 등을 제공하는 기술 대기업 |
Amazon | 50,000 | 전자상거래 및 클라우드 컴퓨팅 서비스를 제공하는 세계 최대의 온라인 소매업체 |
Oracle | 50,000 | 데이터베이스 관리 시스템 및 엔터프라이즈 소프트웨어 제품을 제공하는 다국적 컴퓨터 기술 기업 |
Tencent | 50,000 | 다양한 인터넷 관련 서비스 및 제품을 제공하는 중국의 대형 기술 회사 |
CoreWeave | 40,000 | 클라우드 서비스 및 컴퓨팅 솔루션을 제공하는 미국 기업 |
Baidu | 30,000 | 중국 최대의 검색 엔진 및 인터넷 관련 서비스 회사 |
Alibaba Cloud | 25,000 | 클라우드 컴퓨팅 서비스를 제공하는 알리바바 그룹의 자회사 |
Bytedance | 20,000 | 틱톡을 포함한 여러 콘텐츠 플랫폼을 운영하는 중국의 인터넷 기술 회사 |
Lambda | 20,000 | AI 및 머신 러닝 연구를 위한 하드웨어 및 소프트웨어를 제공하는 기술 기업 |
Tesla | 15,000 | 전기 자동차 및 클린 에너지 솔루션을 제공하는 혁신적인 기술 기업 |
AI 칩 전쟁의 새로운 국면을 드러냅니다. 이 차트에 따르면, 메타와 마이크로소프트가 엔비디아의 H100 GPU 최대 고객으로 추정되며, 그 출하량의 격차는 상당합니다. 이러한 데이터는 AI 기술의 금맥으로 여겨지는 H100 GPU의 가치와, 기술 산업 내에서의 권력 구조를 여실히 보여줍니다. 현재 기술 산업에서 가장 많이 찾는 자원은 특정 엔지니어 유형이 아니라, 엔비디아가 만든 AI 칩, H100입니다. 이 GPU를 확보하는 것은 "마약을 구하는 것보다 훨씬 어렵다"고 일론 머스크는 말했습니다. AI 산업의 여러 출처와 대화한 결과, 모든 이들이 최소 내년 상반기까지 H100을 얻는 것이 거의 불가능할 것으로 가정하고 있습니다.
이제 H100 GPU는 단순한 하드웨어를 넘어 전략적 자산이 되었습니다. 이 칩은 차세대 AI, 특히 생성적 AI를 가동시키는 데 필수적인 역할을 하며, 이에 따른 수요는 하늘을 찌르고 있습니다. 메타와 마이크로소프트가 업계에서 앞서 나가고 있는 것은, 기술적인 우위뿐만 아니라, 이러한 핵심 자원에 대한 접근 능력에서도 그 차이가 드러나고 있음을 의미합니다.
이는 또한 AI 기술의 발전과 확산에 대한 불균형한 기회를 시사합니다. 업계의 거대한 업체들이 대규모 자본을 바탕으로 더 많은 칩을 확보할 수 있는 반면, 작은 스타트업이나 연구 기관들은 높은 비용과 제한된 공급으로 인해 AI 분야에서의 경쟁에 뒤처질 수밖에 없습니다.
이러한 격차는 단순히 하드웨어의 수급 문제를 넘어, 기술 혁신의 미래와 직결됩니다. 메타와 마이크로소프트와 같은 기업들이 이러한 고성능 칩을 활용하여 AI 분야에서 어떤 새로운 기능과 서비스를 선보일지, 그리고 그것이 기술 산업 전체에 어떠한 변화를 가져올지 주목해야 할 시점입니다.
결국, AI 칩 전쟁은 기술 산업 내에서의 경쟁뿐만 아니라, AI 기술의 발전과 대중화를 이끌 핵심 동인으로 작용하고 있습니다. 이러한 격차가 미래의 기술 혁신과 경제적, 사회적 변화에 어떠한 영향을 미칠지는 우리 모두가 관심을 가져야 할 중대한 문제입니다.
Subscribe to 'haebom'
Subscribe to my site to be the first to receive notifications and emails about the latest updates, including new posts.
Join Slashpage and subscribe to 'haebom'!
Join Slashpage and subscribe to 'haebom'!
2
Haebom
참고로 H100 GPU 8개를 장착한 공식 서버인 엔비디아 DGX H100 가격은 한대 당 46만달러(약 6억1천600만원)입니다. H100 GPU 1대에 대략 6~7000만원 정도 합니다.
NVIDIA H100 Tensor 코어 GPU
NVIDIA H100 Tensor 코어 GPU는 엔터프라이즈에서 엑사스케일 HPC와 매개 변수가 조 단위인 AI에 이르기까지 워크로드를 안전하게 가속화합니다.
nvidia.com
H
Hwemgn
대단하네요.. 기존 x86은 명함도못내밀듯
See latest comments