해봄의 아카이브
누가 데이터 센터를 만드는가?
Haebom
우리가 일상적으로 사용하는 클라우드 서비스, 스트리밍 플랫폼, 온라인 쇼핑몰 등 모든 디지털 서비스의 근간에는 데이터 센터가 있습니다. 하지만 이 거대하고 복잡한 시설이 어떻게 구성되고, 누가 만드는지에 대해서는 잘 알려져 있지 않습니다. 막연하게 클라우드 인프라 혹은 데이터센터라고 불리고 있으나 이 산업은 생각보다 무척 넓고 다양한 분야가 결합되어 만들어지는 곳 입니다. 최근 AICA와 함께 프로잭트를 하나 하다 생각보다 국내에 데이터센터를 구축하는 것에 대해 소수의 전문가 분들이 계시다는 것을 알게되었고 대부분의 IT 종사자들은 크게 모른다는 것을 알게 되었습니다. 저는 (물리)데이터센터 구축에 대해선 조무사에 가까운지라 간단하게 소개하는 글을 적어보고자 합니다.
데이터센터를 뜯어보면 엄청나게 집약적인 산업인 것을 알 수 있습니다.
사실 예전에 데이터센터의 중요성과 이것이 얼마나 전기를 잡아 먹는지에 대해 작성한 글이 있습니다. 다만, 해당 글에서는 데이터센터 부지와 소비 전력에만 이야기 했기 때문에 이번 글에선 실제로 이것이 어떻게 구성되는지에 대해 이야기 해보고자 합니다.
데이터 센터 산업의 규모와 중요성
2023년 기준으로 전 세계 데이터 센터 시장 규모는 약 2,150억 달러(약 287조 2,400억 원)에 달합니다. 이는 전 세계 자본의 약 1%를 차지하는 엄청난 규모입니다. 이 중 대부분인 1,600억 달러는 서버, 네트워킹, 스토리지 장비에 사용되고, 나머지 550억 달러는 데이터 센터 인프라 구축에 투자됩니다.
데이터 센터 건설의 총 비용은 메가와트(MW)당 약 3,800만 달러로 추정됩니다. 이 중 IT 장비 비용(서버, 네트워킹, 스토리지)이 MW당 약 3,000만 달러를 차지하고, 인프라 장비 비용은 MW당 약 400만 달러, 엔지니어링과 건설 비용 역시 MW당 약 400만 달러를 차지합니다.
데이터 센터의 주요 구성 요소
괜히 일론 머스크가 자신의 트위터에 데이터 센터 자랑스럽게 올리고 메타, 구글, 마이크로소프트 등에서도 데이터센터 규모에 대해 자랑하는 이유는 단순히 비싸기 때문만은 아닙니다. 물론, 비싼 만큼 운영에도 큰 돈이 들어가지만 하드웨어와 이더넷, 전력망 등에 최신 기술의 정수이기도 합니다. 데이터센터를 구축한다는 것을 다른 의미로 이런 넓은 분야를 자신들이 만들고 운영할 수 있는 기술력이 있다는 의미이기도 합니다. 그럼 데이터 센터는 크게 어떤 것들로 구성되는지 한 번 보겠습니다.
전력량 당 데이터센터 부분 비용
1. 서버와 스토리지
서버는 데이터 센터의 핵심입니다. 2023년에 데이터 센터 건설로 전 세계에서 약 1,200만 대의 서버를 구매하며 1,340억 달러를 지출했습니다. 중간 가격대의 서버는 약 7,000달러이지만, 고급 서버는 각각 100,000달러 이상의 비용이 들 수 있습니다. 최근 AI의 발전으로 더욱 고성능의 서버들이 요구되고 있습니다. AI 서버는 전통적인 CPU에 비해 3-4배 더 많은 전력을 필요로 하며, 이는 데이터 센터 설계에 큰 영향을 미치고 있습니다.
스토리지는 정보를 저장하는 역할을 합니다. 대용량 하드 디스크부터 고속 SSD까지, 다양한 종류의 스토리지가 사용되며, 데이터의 중요도와 접근 빈도에 따라 적절히 배치됩니다.
2. 네트워크 장비
네트워크 장비는 데이터 센터 내부의 서버 간 통신뿐만 아니라 외부 네트워크와의 연결을 담당합니다. 주요 장비로는 스위치, 라우터, 로드 밸런서 등이 있습니다.
네트워킹 장비의 시장 규모는 약 200억 달러로 추정됩니다. AI 워크로드는 특히 대역폭 집약적이어서, 수백 개의 프로세서를 기가비트 처리량으로 연결해야 합니다. 이에 따라 더욱 강력하고 효율적인 네트워크 장비의 수요가 증가하고 있습니다. 우리가 생각하는 공유기나 가정용 인터넷 케이블이 아닌 생각 이상으로 두껍고 무거운 케이블이 사용 됩니다.
3. 전력 공급 시스템
데이터 센터는 엄청난 양의 전력을 소비합니다. 사실 대한민국에선 데이터 센터의 문제로 전국민이 불편을 겪었던 사례가 있습니다. 2022년 10월 15일에 발생한 SK C&C 판교 데이터센터 화재로 인한 카카오 서비스 다운이라는 사건 이죠. 당시 화재의 이유는 리튬이온베터리에서 났다고 되어 있습니다. 네, 전기차 베터리 등에서 쓰이는 그것이 맞습니다. 데이터 센터에 왜 베터리가 있지? 싶으실 테지만 UPS (Uninterruptible Power Supply)라 하여 정전 혹은 천재지변 등으로 이해 전기가 끊겼을 때 안정적으로 전력을 공급하기 위해 있는 보조베터리 같은 시설입니다.
•
무정전 전원 장치(UPS): 순간적인 정전에도 서버가 멈추지 않도록 보호합니다. UPS 시장 규모는 70-80억 달러(약 10조 6,880억 원)로 추정되며, 이는 상당한 양의 교체 수익을 포함합니다.
•
백업 발전기: 장기 정전 시 데이터 센터 전체에 전력을 공급합니다. 일반적인 디젤 백업 발전기는 MW당 300,000-450,000달러의 비용이 듭니다. 발전기 시장 규모는 45-55억 달러(약 7조 3,480억 원)로 추정됩니다.
•
개폐기(Switchgear): 전기 장비를 제어, 보호 및 격리하는 장비로, 시장 규모는 40-50억 달러(6조 6,800억 원)로 추정됩니다.
•
전력 분배 장치(PDU): 서버 랙에 전력을 분배하는 역할을 합니다. 시장 규모는 25-35억 달러(4조 6,760억 원)로 추정됩니다.
4. 냉각 시스템
서버에서 발생하는 열을 효율적으로 제거하는 것은 데이터 센터 운영의 핵심입니다. 데이터 센터에 공급되는 1메가와트의 전력마다 약 285톤의 냉각이 필요합니다.
•
냉각기: 285톤 냉각기의 비용은 약 225,000-250,000달러입니다. 시장 규모는 18-22억 달러(약 2조 9,392억 원)로 추정됩니다.
•
냉각탑: 단일 냉각탑은 3-4 MW의 공급 전력에 대한 열 제거를 제공할 수 있습니다. 시장 규모는 4-6억 달러(약 8,016억 원)로 추정됩니다.
•
컴퓨터실 공기 처리 장치(CRAH): 데이터 센터의 "화이트 스페이스"에 있는 열 장비의 주요 부분입니다. CRAH 및 관련 장비 시장은 40-50억 달러(6조 6,800억 원)로 추정됩니다.
최근에는 서버의 밀도가 높아지면서 기존의 공기 냉각 방식만으로는 한계에 부딪히고 있습니다. 이에 따라 액체 냉각 기술이 주목받고 있습니다. 특히 AI 서버의 증가로 인해 랙 단위의 액체 냉각 시스템이나 침수 냉각 방식 등 새로운 기술들이 도입되고 있습니다.
5. 백업 및 보안 시스템
데이터 센터는 물리적 보안과 데이터 보안을 위한 다양한 시스템을 갖추고 있습니다. CCTV, 생체 인식 출입 통제 시스템, 방화벽, 암호화 시스템 등 여러 층의 보안 장치가 데이터 센터를 지키고 있습니다. 사실 이것은 기존의 보안업체들이 하는 형태를 고용하는 것에 가까워 데이터센터 건설에 반드시 필요하지만 데이터 센터 산업이라고 보긴 어렵습니다. 하지만, 중요합니다. 모든 공격 중, 물리 공격 만큼 확실한게 없기에...
TvN 드라마 <감사합니다> 8화 중 : 서버실을 물리적으로 파.괴.하는 기술유출범의... 행동...
데이터 센터 건설 과정과 참여 주체
1.
설계 단계: 전문 엔지니어링 회사가 데이터 센터의 설계를 담당합니다. 이들은 전기, 기계, 냉각, 네트워크 시스템 등을 종합적으로 계획합니다. 설계 비용은 일반적으로 데이터 센터 인프라 비용의 4.5-6.5%를 차지합니다.
2.
건설 단계: 설계가 완료되면 특수 건설 업체가 시공을 맡습니다. 이들은 프로젝트 관리, 전문 계약자 관리, 자재 구매, 장비 렌탈 등을 포함한 건설 프로젝트의 모든 측면을 감독합니다.
3.
장비 공급: 각종 장비 제조업체들이 서버, 네트워크 장비, 전력 장비, 냉각 시스템 등을 공급합니다. 이들은 각 분야에서 전문성을 가지고 최신 기술을 적용한 제품을 제공합니다.
4.
운영 및 유지보수: 마지막으로 전문 운영 인력이 데이터 센터를 관리하고 유지보수합니다. 이들은 24시간 365일 데이터 센터가 최적의 상태로 운영되도록 모니터링하고 관리합니다.
연간 5-6GW의 데이터 센터가 새로 건설되는데, 이는 480-570억 달러(약 76조 1,520억 원) 규모의 시장을 형성합니다. 국내에서는 이번에 광주에 국가 데이터센터를 크게 짓고 AICA와 함께 운영 중에 있습니다. 6GW 규모의 세계적으로도 거대 규모의 데이터센터 입니다.
데이터 센터의 미래: AI와 지속가능성
AI의 발전은 데이터 센터에 새로운 도전을 제시하고 있습니다. AI 칩의 높은 전력 소비와 열 발생은 기존 데이터 센터 설계의 한계를 시험하고 있습니다. 예를 들어, 현재 세대의 AI 칩인 Nvidia의 H200은 랙당 33kW의 전력을 소비하며, 다음 세대인 GB200은 랙당 107kW까지 소비할 것으로 예상됩니다. 이는 기존 데이터 센터의 평균 랙 전력 밀도인 12kW를 크게 상회하는 수준입니다.
특성 | 액체 냉각(액랭) | 공기 냉각(공랭) |
에너지 효율성 | 높음 | 낮음 |
대규모 처리 능력 | 우수함 (AI 서버 배치에 적합) | 제한적 |
열 제거 효율 | 매우 높음 | 상대적으로 낮음 |
초기 비용 | 높음 | 낮음 |
시스템 복잡성 | 복잡함 (펌프, 필터, 제어 장치 필요) | 상대적으로 단순함 |
설치 및 배치 시간 | 길다 | 짧다 |
누수 위험 | 있음 | 없음 |
공간 활용 효율성 | 높음 | 낮음 (더 많은 공간 필요) |
유지보수 | 복잡하고 전문성 필요 | 상대적으로 간단 |
확장성 | 높음 (고밀도 서버 지원) | 제한적 |
적합한 환경 | 대규모 데이터 센터, AI 워크로드 | 소중규모 데이터 센터, 일반 워크로드 |
이에 따라 더 효율적인 냉각 기술, 더 안정적인 전력 공급 시스템 등이 요구되고 있습니다. 특히 액체 냉각 기술이 주목받고 있는데, 이는 공기 냉각에 비해 열 제거 효율이 훨씬 높기 때문입니다. 기존에는 공기를 통한 냉각 즉, 공랭에 집중했다면 최근에는 액체 냉각 쪽이 더 주목 받고 있습니다. 이유는 간단합니다. 화재의 위험도 적고 효과도 뛰어나기 때문입니다. 지금은 공랭 형태가 많았다면 향후 더 높은 전력과 열을 발생 시키는 칩셋 들이 세팅되면 액체 냉각은 고려가 아니라 필수가 될 것으로 보여집니다.
또한, 데이터 센터의 환경적 영향도 중요한 화두입니다. 데이터 센터는 엄청난 양의 전력을 소비하기 때문에, 재생 에너지 사용, 에너지 효율 개선 등 지속가능성을 위한 노력이 계속되고 있습니다. 일부 기업들은 이미 100% 재생 에너지로 운영되는 데이터 센터를 구축하고 있으며, 폐열을 인근 지역 난방에 활용하는 등 혁신적인 방안을 모색하고 있습니다. 가령, 데이터센터를 지을 거면 GW단위의 전력이 데이터 센터만을 위해 빨려들어가기에 기존 주거 밀집 지역이나 전력망 인프라가 미비할 경우 대규모 정전 등이 들어나는 사고가 생길 수 있습니다.
데이터 센터는 계속 늘어난다.
데이터 센터는 단순한 기술 인프라를 넘어 중요한 부동산 자산으로 부상하고 있습니다. 대규모 전력 공급이 가능하고, 자연재해 위험이 낮으며, 주요 네트워크 연결 지점과 가까운 부지가 데이터 센터 입지로 선호됩니다. 이러한 특수한 요구 사항으로 인해 적합한 부지 확보가 데이터 센터 개발의 핵심 과제가 되고 있습니다. 한편, 데이터 센터 리츠(REITs)는 투자자들에게 이 성장하는 산업에 참여할 기회를 제공합니다. 데이터 센터 리츠는 안정적인 임대 수익과 높은 성장 잠재력을 결합하여, 전통적인 부동산 투자와는 다른 특성을 보입니다.
특히 클라우드 컴퓨팅, AI, 사물인터넷(IoT) 등 데이터 집약적 기술의 발전으로 데이터 센터 수요가 급증하면서, 데이터 센터 부동산은 상업용 부동산 시장의 새로운 핵심 분야로 자리잡고 있습니다. 이러한 추세는 앞으로도 계속되어, 데이터 센터 부동산이 부동산 투자 포트폴리오의 중요한 부분을 차지할 것으로 예상됩니다.
마치며,
데이터 센터는 직접 목도하기 전에는 사실 규모를 짐작하기 힘든 산업입니다. 하지만 한 번 경험하거나 규모를 알게되면 이렇게 매력적인 산업도 없습니다. 이런 데이터 센터 구축 산업에 다양한 기업들이 뛰어들고 있고 글로벌 진출도 고려하고 있습니다. 기술 장벽, 자본 장벽이 매우 높다보니 사실 기존 기업들이 꽉 잡고 있는 분야이기도 하지만, 인공지능 데이터 센터는 규모가 커지고 필요 조건이 더 많아지면서 먹을 거리가 더 많아졌습니다. 개인적으로는 주요 플레이어로서 다양한 스타트업이 떠오르길 바랍니다.
Subscribe to 'haebom'
Subscribe to my site to be the first to receive notifications and emails about the latest updates, including new posts.
Join Slashpage and subscribe to 'haebom'!
Join Slashpage and subscribe to 'haebom'!