액체 냉각의 주류화: 2025년, AI 인프라의 전환점

2025년 12월 10일 작성자: Blake Crosley

2025년은 액체 냉각이 첨단 기술에서 기본 표준으로 전환된 해입니다. 더 이상 특수 배치나 실험적 설계에 국한되지 않고, 액체 냉각은 AI 인프라의 핵심 구성 요소가 되었습니다.¹ 데이터센터 침수 냉각 시장은 2025년 48억 7천만 달러에 도달했으며, 2030년까지 111억 달러에 이를 것으로 예상되어 연평균 17.91%의 성장률을 기록하고 있습니다.² 이러한 변화는 AI 워크로드에 공랭식 냉각이 불충분하게 만드는 GPU 전력 밀도의 근본적인 변화를 반영합니다.

2025년 중반을 기점으로, 액체 냉각 전환은 운영적, 전략적으로 완전히 자본화되었으며, 업계에서 가장 야심 찬 기업들의 인프라 로드맵에 포함되었습니다.³ Google, Meta, AWS, Microsoft와 같은 하이퍼스케일러들은 AI 워크로드와 HPC로 인한 전력 밀도 증가로 인해 최신 시설 전반에 액체 냉각 환경을 도입하고 있습니다.⁴

전력 밀도 요인

GPU 전력 소비는 고밀도 AI 배치에서 공랭식 냉각 능력을 초과하는 수준으로 증가했습니다.

현재 랙 밀도

평균 데이터센터 랙 전력 밀도는 2022년부터 2024년까지 38% 증가했으며, AI 클러스터에서 전력 밀도는 현재 80kW에서 120kW까지 상승하고 있습니다.⁵ NVIDIA Blackwell 랙 설계는 최대 밀도를 132kW까지 끌어올리며, 향후 Blackwell Ultra와 Rubin 서버는 랙당 250kW에서 900kW를 필요로 합니다.⁶

공랭식 냉각은 이러한 전력 밀도에서 효율적으로 열을 제거할 수 없습니다. 대류 열전달의 물리적 특성은 팬 속도나 공기 처리 장치 용량에 관계없이 공랭식 냉각의 효과를 제한합니다. 액체 냉각은 근본적으로 우수한 열전달 계수를 제공하여 고밀도 운영을 가능하게 합니다.

GPU 열 요구 사항

현대 GPU는 최적의 성능과 신뢰성을 위해 정밀한 온도 제어가 필요합니다. 온도가 사양을 초과하면 열 스로틀링으로 인해 성능이 저하됩니다. 일관된 냉각은 과중한 워크로드에서도 지속적인 성능을 유지합니다.

액체 냉각은 공랭식 냉각보다 더 일관된 온도를 제공합니다. 직접 칩 액체 냉각은 복잡한 서버 구조를 통한 공기 순환에 의존하지 않고 열원에서 직접 열을 제거합니다. 이러한 일관성은 까다로운 AI 워크로드에 대한 예측 가능한 성능을 지원합니다.

기술 현황

여러 액체 냉각 기술이 다양한 요구 사항과 배치 환경에 대응합니다.

직접 칩 냉각

직접 칩 액체 냉각은 GPU 및 기타 발열 부품에 직접 부착된 콜드 플레이트를 통해 냉각수를 순환시킵니다. 이 방식은 가장 높은 전력 부품에 대한 집중 냉각을 제공하면서 낮은 전력 요소에 대해서는 공랭식 냉각을 유지합니다.

Supermicro는 이전 용량의 두 배인 250kW 냉각수 분배 장치를 갖춘 NVIDIA Blackwell 랙 스케일 솔루션을 출시했습니다.⁷ CDU 용량 증가는 증가하는 GPU 전력 요구 사항을 반영합니다. 직접 칩 솔루션은 GPU 세대에 맞춰 확장됩니다.

침수 냉각

단상 침수 냉각은 직접 접촉을 통해 열을 흡수하는 유전체 유체에 서버를 담급니다. 이 방식은 팬과 기류 관리를 제거하면서 균일한 냉각을 제공합니다. Submer의 SmartPod는 기존 공랭식 시설의 글로벌 평균 1.6~1.9에 비해 PUE 1.03~1.1로 랙당 140kW를 달성합니다.⁸

2상 침수 냉각은 고온 표면에서 유전체 유체를 끓이고, 증기가 응축되어 액체 풀로 돌아갑니다. 상변화는 우수한 열전달을 제공합니다. Microsoft는 AI 훈련 클러스터에 대해 2상 침수 냉각을 테스트하여 30%의 에너지 효율 향상과 하드웨어 신뢰성 증가를 보고했습니다.⁹

후면 도어 열교환기

후면 도어 열교환기는 랙 배기구에서 폐열을 포집하여 공랭식 인프라를 갖춘 시설에 전환 옵션을 제공합니다. 이 방식은 서버 수준의 수정 없이 시설 냉각 부하를 줄입니다. 이 기술은 시설 전환 기간 동안 공랭식에서 액체 냉각으로의 가교 역할을 합니다.

배치 추진력

2025년 주요 배치는 액체 냉각의 주류 진입을 보여줍니다.

벤더 파트너십

2025년 2월, Asperitas는 Cisco Engineering Alliance의 일환으로 Cisco와 파트너십을 맺어 침수 냉각 기술과 Cisco의 Unified Compute System을 결합했습니다.¹⁰ 이 파트너십은 하이퍼스케일을 넘어 엔터프라이즈 배치에 대한 침수 냉각의 유효성을 검증합니다.

2025년 2월, Submer는 AI 인프라 개발을 지원하기 위해 데이터센터 설계, 건설 및 서비스 분야에 진출했습니다.¹¹ 냉각 벤더에서 인프라 제공업체로의 확장은 AI 데이터센터에서 액체 냉각의 중심적 역할을 반영합니다.

2025년 3월, LiquidStack은 텍사스주 캐럴턴 본사를 개소하여 생산 능력을 3배로 확대했습니다.¹² 용량 확장은 이전 생산 능력을 초과하는 수요에 대응합니다.

지역별 채택

북미는 하이퍼스케일 클라우드 제공업체의 생산 규모 배치를 통해 채택을 주도합니다. 버지니아, 텍사스, 오레곤의 기존 데이터센터 시장에서 액체 냉각이 새로운 AI 지원 시설의 표준이 되고 있습니다.

아시아 태평양 지역은 일본, 중국, 한국이 액체 냉각 AI 클러스터를 선도하면서 가장 가파른 성장을 보이고 있습니다. 이 지역은 2025년부터 2030년까지 23.2%의 가장 높은 연평균 성장률을 기록할 것으로 예상됩니다.¹³ 정부의 AI 이니셔티브가 액체 냉각 인프라의 빠른 배치를 촉진합니다.

계획 시 고려 사항

AI 인프라를 계획하는 조직은 현재 및 미래 배치에 대한 액체 냉각 요구 사항을 평가해야 합니다.

신규 시설 설계

새로운 AI 지원 시설은 설계 단계부터 액체 냉각 인프라를 포함해야 합니다. 개조는 초기 설계 포함보다 상당히 비용이 많이 들고 운영에 지장을 줍니다. 시설 설계는 직접 칩 및 침수 옵션을 모두 수용해야 합니다.

냉각 분배 장치 배치, 배관 경로, 액체가 채워진 랙의 바닥 하중은 초기 설계 결정이 필요합니다. 시설 기계 시스템은 기존 칠러를 대체하거나 병행하여 액체 냉각 열 방출을 지원해야 합니다.

기존 시설 적응

기존 시설은 액체 냉각 채택에 대해 더 어려운 결정에 직면합니다. 개조 비용과 운영 중단을 밀도 제한이 있는 지속적인 공랭식 냉각과 비교해야 합니다. 일부 시설은 경제적으로 액체 냉각 개조를 지원하지 못할 수 있습니다.

레거시 워크로드에 대해 공랭식 냉각을 유지하면서 새로운 AI 인프라에 액체 냉각을 배치하는 하이브리드 접근 방식이 전환 경로를 제공합니다. 하이브리드 접근 방식은 AI 워크로드 지원을 가능하게 하면서 개조 범위를 제한합니다.

운영 역량

액체 냉각은 기존 데이터센터 관리 이상의 운영 요구 사항을 도입합니다. 냉각수 품질 모니터링, 누출 감지, 전문 유지보수 절차에는 교육과 도구가 필요합니다. 운영 팀은 액체 냉각 전문 지식이 필요합니다.

Introl의 550명 현장 엔지니어 네트워크는 AI 배치를 위한 액체 냉각 인프라를 구현하는 조직을 지원합니다.¹⁴ 이 회사는 3년간 9,594% 성장으로 2025년 Inc. 5000에서 14위를 차지했습니다.¹⁵

257개 글로벌 지역에 걸친 전문 배치는 지역에 관계없이 액체 냉각 모범 사례를 보장합니다.¹⁶ 구현 전문 지식은 기술 전환 중 위험을 줄입니다.

의사 결정 프레임워크: 워크로드별 냉각 기술

실행 단계: 1. 현재 밀도 감사: 실제 대 잠재적 랙 전력 소비 측정 2. GPU 로드맵 예측: 3년 내 현재 밀도의 2~3배 계획 3. 시설 제약 평가: 개조 가능성 대 신규 건설 평가 4. 운영 전문성 구축: 배치 전에 액체 냉각 운영에 대해 팀 교육

기술 비교

핵심 요약

시설 기획자를 위해: - 액체 냉각 시장: 48억 7천만 달러(2025년) → 111억 달러(2030년), 연평균 17.91% 성장 - 50 kW/랙 이상에서 공랭식은 물리적으로 불충분 - 새로운 AI 시설은 설계 단계부터 액체 냉각 포함 필요

인프라 팀을 위해: - 직접 칩: GPU 세대에 맞춰 확장, 가장 뜨거운 부품 타겟 - 침수: PUE 1.03-1.1 대 공랭식 1.6-1.9 (30%+ 에너지 절감) - 아시아 태평양 지역 가장 빠른 성장 (연평균 23.2%), 정부 AI 이니셔티브 주도

조달 담당자를 위해: - Supermicro: Blackwell 랙 스케일 솔루션용 250 kW CDU - Submer SmartPod: PUE 1.03-1.1로 140 kW/랙 - LiquidStack: 수요 충족을 위해 생산 능력 3배 확대

전망

액체 냉각은 AI 배치를 위한 신흥 기술에서 인프라 기준선으로 전환되었습니다. 액체 냉각 능력 없이 AI 인프라를 계획하는 조직은 GPU 전력이 계속 증가함에 따라 배치 제한에 직면할 위험이 있습니다.

액체 냉각의 경제적, 운영적 타당성은 각 GPU 세대마다 강화됩니다. 조기 채택은 운영 경험을 제공하고 공랭식 냉각이 물리적 한계에 도달할 때 급하게 전환하는 것을 방지합니다. 2025년은 액체 냉각이 심각한 AI 인프라에서 선택이 아닌 필수가 된 해입니다.

참고 문헌

긴급도: 높음 — 즉각적인 계획이 필요한 기술 전환 단어 수: ~1,800