Physical Address
304 North Cardinal St.
Dorchester Center, MA 02124
1. 데이터센터는 왜 거대한 ‘냉각 시설’로 변하고 있나
격렬하게 운동하는 사람의 몸에서 땀이 나는 이유는 단순합니다. 근육이 힘을 쓸수록 열이 나고, 이 열을 밖으로 빼내지 못하면 몸이 망가지기 때문입니다. AI 데이터센터도 정확히 같은 문제를 겪고 있습니다.
생성형 AI는 일반적인 웹서비스와 차원이 다른 방식으로 GPU를 씁니다. 대규모 모델 학습은 수천 개의 GPU를 몇 주씩 쉬지 않고 돌리고, AI 서비스 추론 역시 24시간 끊임없이 연산을 요구합니다. 이는 곧 서버가 24시간 내내 최고 강도로 ‘운동’하는 상태와 같다는 뜻이고, 그만큼 지속적으로 막대한 열을 뿜어낸다는 의미입니다. 그래서 요즘 데이터센터 업계에서는 “데이터센터가 이제 단순한 서버 보관 시설이 아니라, 거대한 열 관리 시설로 변하고 있다”는 말이 나옵니다.
2. 숫자로 보는 발열 폭증 – 10년 새 40배
숫자로 보면 이 변화가 얼마나 급격한지 실감이 납니다. 2017년 표준 서버 랙의 전력 밀도는 15kW에 불과했습니다. 그런데 2025년 엔비디아의 GB200 NVL72 랙은 132kW를 소비하고, 2027년 하반기 출시 예정인 차세대 ‘루빈 울트라 NVL576 Kyber’ 랙은 600kW에 달할 전망입니다. 10년 사이 전력 밀도가 40배로 치솟은 셈입니다.
이 숫자가 와닿지 않는다면 이렇게 바꿔볼 수 있습니다. GPU 2만 장을 설치하려면 최소 30~40MW, 5만 장이면 112MW 이상의 전력이 필요합니다. 이는 웬만한 중소도시 하나가 쓰는 전력량과 맞먹는 규모입니다. 오픈AI CEO 샘 올트먼이 이미지 생성 요청이 폭주하던 시기에 “GPU가 녹고 있다”는 표현까지 썼을 정도로, 발열 문제는 더 이상 부수적인 이슈가 아니라 AI 서비스의 확장을 직접 가로막는 핵심 병목이 됐습니다.
3. 냉각 기술의 3단계 진화
발열 문제를 해결하는 방식은 크게 세 단계로 진화하고 있습니다.
① 공랭식(Air Cooling) → 이미 한계
찬 공기를 서버 주변에 순환시키는 전통적인 방식입니다. 100kW급 이상의 고밀도 랙에서는 이미 물리적 한계에 부딪혔다는 게 업계의 공통된 평가입니다.
② 직접액체냉각(DLC, Direct Liquid Cooling) → 2025~2026년 주류
서버 랙 뒷면에 열교환기를 달아, 서버를 지나며 뜨거워진 공기를 액체로 식혀 다시 내보내는 하이브리드 방식입니다. 기존 데이터센터에 추가 설치가 비교적 쉬워, 2025~2026년 사이 주류 냉각 방식으로 자리 잡고 있습니다. 이 방식의 핵심은 냉각수 분배장치(CDU)인데, 최신 CDU는 최대 80kW급부터 1.4MW급까지 냉각 용량이 빠르게 커지고 있습니다.
③ 침지냉각(Immersion Cooling) → 차세대 대안
서버 전체를 전기가 통하지 않는 특수 냉각유에 통째로 담그는 방식입니다. 열을 직접, 그리고 훨씬 효율적으로 제거할 수 있어 차세대 냉각 기술로 주목받고 있습니다. 알리바바는 침지형 서버로 에너지 사용량을 70% 줄인 성과를 냈고, SK텔레콤의 인천사옥 실증에서는 냉각 전력을 90% 이상 절감한 결과가 나왔습니다.
이후에는 냉각액을 서버 밖이 아니라 칩 내부의 미세한 통로로 직접 흘려보내는 ‘마이크로유체 냉각’까지, 2035년까지 이어지는 기술 진화 로드맵이 이미 그려져 있습니다.
4. 액체냉각이 특히 중요한 이유 – 전력 효율의 다른 이름
냉각 기술이 단순히 “장비를 안 태우기 위한” 보조 설비로만 여겨진다면 이해가 부족한 겁니다. 진짜 중요한 이유는 전력 효율과 직결되기 때문입니다.
데이터센터의 효율을 나타내는 지표인 PUE(전력사용효율)에서, 냉각은 전체 전력 부하의 38~40%를 차지할 정도로 비중이 큽니다. 액체냉각을 도입하면 공랭식 대비 전체 사이트 에너지 사용량을 25~30% 줄일 수 있고, 최적화된 배포에서는 PUE를 1.1 수준까지 끌어내릴 수 있습니다. 메가와트 규모의 시설에서는 PUE 1% 개선만으로도 막대한 비용 절감 효과가 발생하기 때문에, 냉각 기술 투자는 단순한 설비 교체가 아니라 실질적인 ROI(투자수익률) 문제로 다뤄지고 있습니다.
게다가 이제는 “얼마나 많은 GPU를 확보했느냐”보다 “그 GPU를 얼마나 효율적으로 식힐 수 있느냐”가 데이터센터의 경쟁력을 가르는 요인이 되고 있습니다. 아무리 GPU를 많이 사들여도, 냉각 인프라가 부족하면 그 GPU를 가동조차 할 수 없기 때문입니다.
5. 국내 현실 – 서버 국산화율 3.3%의 벽
한국 정부는 2026년까지 GPU 2만 장 도입을 목표로 내걸었지만, 현재 수도권 데이터센터의 **95%**는 이를 수용할 냉각 인프라를 갖추지 못한 상태입니다. 국회 지적에 따르면 당장 도입되는 GPU 1만 3,000장은 문제가 없지만, 이후 추가 물량을 효율적으로 수용하기는 어렵다는 진단이 나왔습니다.
더 근본적인 문제는 냉각 장비 자체의 국산화율입니다. 과학기술정보통신부 기준 국내 서버 국산화율은 3.3%, 스토리지는 1.82%에 불과합니다. UPS(무정전전원장치)는 23.38%, 배터리는 75.83%로 상대적으로 사정이 나은 편이지만, 핵심 IT 장비와 냉각 설비에서는 외산 의존도가 절대적입니다. 특히 CDU(냉각수 분배장치) 시장은 Vertiv, Schneider Electric, CoolIT Systems 같은 해외 업체들이 사실상 장악하고 있는 상황입니다.
이런 흐름 속에서 국내 기업들도 대응에 나서고 있습니다. 삼성전자는 유럽 냉난방공조 전문기업을 인수하고 인도 신규 생산기지를 가동해 아시아 시장을 공략하고 있고, LG전자는 냉각 용량을 기존 대비 2배 이상 늘린 CDU 신제품을 선보이며 관련 R&D 인력을 2배로 늘리는 중입니다. 정유업계에서도 SK이노베이션과 GS칼텍스가 액침냉각유 개발·상용화에 뛰어들었고, 조선업계인 삼성중공업은 심층 해수로 서버 열을 식히는 부유식 데이터센터(FDC) 모델까지 개발하고 있습니다. 2025년 5월에는 서울에서 열린 국제표준화총회에서 액침냉각 표준안이 제안되며, 한국이 이 분야의 국제 표준을 선점하려는 시도도 진행 중입니다.
6. 시장 규모 비교표
| 조사기관 | 2026년 시장 규모 | 장기 전망 | 연평균 성장률(CAGR) |
|---|---|---|---|
| 글로벌마켓인사이트(GMI) | 60억 달러 | 2035년 271억 달러 | 18.2% |
| 리서치네스터 | 56.3억 달러 | 2035년 443.9억 달러 | 25.5% |
| MarketsandMarkets | 40.7억 달러 | 2033년 276.5억 달러 | 31.5% |
| 전체 냉각시장(공랭+액랭 포함) | 210억 달러 | 2034년 541.8억 달러 | 12.6% |
| 액침냉각 특화(GMI) | – | 2034년 72억 달러(2025년 16억 달러) | 18.3% |
조사기관마다 정의 범위와 방법론이 달라 구체적 수치는 차이가 있지만, 연평균 두 자릿수 성장이라는 방향성만큼은 모든 기관이 공통적으로 가리키고 있습니다.
❓ FAQ
Q1. 왜 지금 갑자기 냉각 기술이 중요해졌나요?
AI GPU의 발열량이 기존 서버와는 차원이 다르기 때문입니다. 10년 사이 서버 랙의 전력 밀도가 40배 가까이 치솟으면서, 기존 공랭식 냉각으로는 감당할 수 없는 수준에 이르렀습니다.
Q2. 액체냉각과 침지냉각은 뭐가 다른가요?
직접액체냉각(DLC)은 서버 내부나 근처로 냉각액을 순환시켜 열을 흡수하는 방식이고, 침지냉각은 서버 전체를 절연성 냉각유에 통째로 담그는 방식입니다. 침지냉각이 더 높은 냉각 효율을 낼 수 있지만, 초기 설비 투자 비용과 검증 데이터가 상대적으로 부족하다는 과제가 있습니다.
Q3. 한국은 왜 냉각 인프라가 부족한가요?
데이터센터 자체의 확충 속도가 GPU 도입 속도를 따라가지 못하고 있고, 특히 냉각 핵심 장비(CDU 등)의 국산화율이 매우 낮아 해외 업체 의존도가 높은 상황이 겹쳤기 때문입니다.
Q4. PUE가 뭔가요?
전력사용효율(Power Usage Effectiveness)의 약자로, 데이터센터가 IT 장비에 쓰는 전력 대비 전체(냉각 포함) 전력 소비 비율을 나타냅니다. 1에 가까울수록 효율적이라는 뜻입니다.
Q5. 액침냉각을 도입하면 전력을 얼마나 아낄 수 있나요?
사례에 따라 다르지만, SK텔레콤 인천사옥 실증에서는 냉각 전력을 90% 이상 절감했고, 알리바바의 침지형 서버는 에너지 사용량을 70% 줄인 것으로 보고됐습니다.
Q6. 냉각 기술 시장에 어떤 산업이 관련돼 있나요?
전통적인 냉난방공조(HVAC) 기업뿐 아니라, 냉각유를 공급하는 정유업계, 부유식 데이터센터를 개발하는 조선업계까지 이종 산업이 함께 뛰어들고 있는 것이 최근 특징입니다.
Q7. 냉각 문제가 해결되지 않으면 어떻게 되나요?
GPU를 아무리 많이 확보해도 실제로 가동할 수 없는 상황에 놓입니다. 즉 하드웨어를 갖추고도 활용하지 못하는 역설적 상황이 발생할 수 있어, 냉각 인프라는 AI 서비스 확장의 실질적인 상한선으로 작용하고 있습니다.
마무리 요약
AI 시대의 경쟁력은 이제 GPU를 얼마나 많이 확보했느냐가 아니라, 그 GPU를 얼마나 효율적으로 식힐 수 있느냐로 옮겨가고 있습니다. 10년 사이 40배로 치솟은 서버 랙의 전력 밀도는 공랭식의 물리적 한계를 명확히 드러냈고, 그 자리를 직접액체냉각과 침지냉각이 빠르게 채우고 있습니다. 다만 한국은 정부의 공격적인 GPU 도입 목표와 달리, 이를 뒷받침할 냉각 인프라와 핵심 장비 국산화가 크게 뒤처져 있는 게 현실입니다. 삼성전자·LG전자·SK이노베이션·GS칼텍스·삼성중공업 같은 기업들이 잇달아 이 분야에 뛰어들고 있는 것도, 이 격차를 메우지 못하면 AI 산업 경쟁력 자체가 발목 잡힐 수 있다는 위기감이 반영된 결과로 풀이됩니다.
