Sign In
해봄의 아카이브

내가 매달 NVDIA를 사모으는 이유

Haebom
구독 버튼을 통해 구독을 해주시면 알찬 소식으로 매일 받아보실 수 있습니다.
댓글과 이모지를 남겨주시면 큰 힘이 됩니다. 공유까지 해주시면 더 좋구요!
•
틱톡 운영사 바이트댄스는 약 10만대의 A100 과 H800(H100의 너프 버전)를 구매, 대당 약 $10,000
◦
A100, H100 등은 엔디비아에서 만드는 고연산을 위한 GPU 제품명
◦
작년 9월에 중국 관련 기업 규제가 들어가며 못사는게 맞는데... 8월에 주문한 걸 이제 받았다고
•
그럼 엔디비아의 최신 GPU H100은?
◦
성능은 현존하는 어떤 인공지능 연산 유닛보다 좋음
◦
H100 GPU는 랙 1개에 1개가 꽂힘 → 랙 하나는 전기 3,300W 소모
◦
가격도 흉악한 수준 대단 수만달러 (싯가..)
◦
그럼에도 불구하고 H100 주문 건수가 너무 많아서 수급이 불가능
•
대체제라고 할만한 것이 현재 TPU 정도인데 사실 대체제가 없음
•
설령 대체제가 나온다고 해도 엔디비아 만큼 성능이 나올까? 거의 불가능
•
인공지능이 보편화 되고 연산이 복잡해 질 수록, 모델의 규모가 커질 수록 GPU 품귀현상은 계속 일어남
Subscribe to 'haebom'
Subscribe to my site to be the first to receive notifications and emails about the latest updates, including new posts.
Join Slashpage and subscribe to 'haebom'!
Subscribe
2
Haebom
👍
1
정
정서연
아쉽게 정리하긴 했지만 저 역시 엔비디아의 은혜를 톡톡히 입었더랬습니다:) 그립네요.. 엔비디아..^^;
See latest comments