# 내가 매달 NVDIA를 사모으는 이유

구독 버튼을 통해 구독을 해주시면 알찬 소식으로 매일 받아보실 수 있습니다. 

댓글과 이모지를 남겨주시면 큰 힘이 됩니다. 공유까지 해주시면 더 좋구요!

[구독하기]()

[공유하기]()

![Image](https://upload.cafenono.com/image/slashpagePost/20230621/211416_ftzHmUDYWIulOl0TH2?q=75&s=1280x180&t=outside&f=webp)

- 틱톡 운영사 바이트댄스는 약 10만대의 A100 과 H800(H100의 너프 버전)를 구매, 대당 약 $10,000

    - A100, H100 등은 엔디비아에서 만드는 고연산을 위한 GPU 제품명

    - 작년 9월에 중국 관련 기업 규제가 들어가며 못사는게 맞는데... 8월에 주문한 걸 이제 받았다고

- 그럼 엔디비아의 최신 GPU H100은?

    - 성능은 현존하는 어떤 인공지능 연산 유닛보다 좋음

    - H100 GPU는 랙 1개에 1개가 꽂힘 → 랙 하나는 전기 3,300W 소모

    - 가격도 흉악한 수준 대단 수만달러 (싯가..)

    - 그럼에도 불구하고 H100 주문 건수가 너무 많아서 수급이 불가능

- 대체제라고 할만한 것이 현재 TPU 정도인데 사실 대체제가 없음

- 설령 대체제가 나온다고 해도 엔디비아 만큼 성능이 나올까? 거의 불가능

- 인공지능이 보편화 되고 연산이 복잡해 질 수록, 모델의 규모가 커질 수록 GPU 품귀현상은 계속 일어남

[NVIDIA H100 Tensor 코어 GPU](https://www.nvidia.com/ko-kr/data-center/h100/)

[China's ByteDance Has Gobbled Up $1 Billion of Nvidia GPUs for AI This Year](https://www.tomshardware.com/news/chinas-bytedance-has-gobbled-up-dollar1-billion-of-nvidia-gpus-for-ai-this-year)

For the site tree, see the [root Markdown](https://slashpage.com/haebom.md).