AI를 위한 액체 냉각: 특수 사례에서 필수 인프라로

2025년 12월 11일 업데이트

2025년 12월 업데이트: 액체 냉각 시장이 2025년 28억 달러에서 2032년 210억 달러 이상으로 급성장할 전망이며, 연평균 성장률은 30%를 상회합니다.¹ 현재 NVIDIA 랙은 132kW가 필요하고, 차세대 제품은 240kW가 요구됩니다. GB200 NVL72를 통해 25배의 비용 절감이 가능합니다(50MW 시설 기준 연간 400만 달러 이상 절약). Direct-to-chip 방식은 현재 부품당 최대 1,600W까지 처리합니다. Accelsius NeuCool은 40°C 온수로 GPU 소켓당 4,500W 냉각을 달성했습니다.

글로벌 액체 냉각 시장은 2025년 28억 달러에서 2032년 210억 달러 이상으로 성장할 전망이며, 연평균 성장률은 30%를 초과합니다.¹ 2025년 중반을 기점으로 공랭식에서 액체 냉각으로의 전환은 실험 단계를 넘어 본격적인 운영 단계에 진입했습니다.² 최신 NVIDIA 기반 GPU 서버는 풀 로드 시 랙당 132킬로와트가 필요합니다. 1년 내 출시 예정인 차세대 제품은 240킬로와트가 요구됩니다.³ 기존 공랭 시스템으로는 이러한 밀도의 열을 방출할 수 없습니다. 액체 냉각은 하이퍼스케일러만의 사치품에서 현세대 AI 인프라를 구축하는 모든 조직의 필수 요건으로 변모했습니다.

경제성 측면에서도 이러한 전환을 뒷받침합니다. 데이터센터는 냉각에 메가와트당 연간 약 190만~280만 달러를 지출하는 것으로 추정됩니다.⁴ 액체 냉각 GB200 NVL72 시스템을 도입하면 하이퍼스케일 데이터센터에서 최대 25배의 비용 절감이 가능하며, 이는 50메가와트 시설 기준 연간 400만 달러 이상의 절감액에 해당합니다.⁵ 이러한 전환을 거부하는 조직은 AI 역량을 좌우하는 차세대 GPU를 도입하지 못하게 될 것입니다.

전환을 이끄는 물리학적 원리

AI 최적화 서버와 GPU 밀집 클러스터는 랙당 50킬로와트 이상의 전력 밀도에 도달하며, 이는 기존 공랭 시스템으로는 안정적이거나 효율적인 열 방출이 불가능한 수준입니다.⁶ Uptime Institute에 따르면, 평균 데이터센터 랙 전력 밀도는 2022년부터 2024년까지 38% 증가했으며, AI 및 하이퍼스케일 환경에서 가장 급격한 성장세를 보였습니다.⁷ 과거 최대 15킬로와트에 불과했던 전력 밀도가 현재 AI 클러스터에서는 80~120킬로와트까지 상승했습니다.⁸

액체 냉각의 근본적인 장점은 열역학에 있습니다. 액체는 공기보다 거의 1,000배 높은 밀도를 가지며, 우수한 열용량과 열전도율 덕분에 열을 효과적으로 운반합니다.⁹ 고성능 GPU의 열을 효율적으로 전달함으로써 액체 냉각은 에너지 집약적인 냉각 팬에 대한 의존도를 줄입니다. 그 결과 서버 에너지 소비량이 평균 11% 감소하고, 기존 냉각 인프라 공간 요구량의 80%를 절감할 수 있습니다.¹⁰

공랭 시스템은 랙당 10~15킬로와트 이상의 전력 밀도를 처리하는 데 어려움을 겪습니다.¹¹ 많은 AI 워크로드는 30~60킬로와트 이상에서 작동하는 랙을 필요로 합니다.¹² 공랭이 제공하는 것과 AI 인프라가 요구하는 것 사이의 격차는 GPU 세대가 거듭될수록 커지고 있습니다.

Direct-to-chip 냉각이 생산 환경을 지배하다

Direct-to-chip 냉각은 생산 환경에서 가장 널리 도입되는 액체 냉각 방식으로 빠르게 자리 잡았습니다.¹³ 콜드 플레이트가 CPU, GPU, 메모리 모듈, 전압 조정기에 직접 장착됩니다. 폐쇄 루프 시스템이 이러한 플레이트를 통해 냉각수를 순환시켜 열원에서 직접 열을 제거합니다.¹⁴

NVIDIA의 GB200 NVL72 및 GB300 NVL72 시스템은 direct-to-chip 액체 냉각을 표준 구성으로 채택합니다.¹⁵ 증발식 또는 침수식 냉각과 달리, NVL72의 액체 냉각은 냉각수가 증발하거나 교체가 필요 없는 폐쇄 루프 시스템으로 작동하여 물을 절약합니다.¹⁶ 이 아키텍처는 기존 공랭 시스템 대비 40배 높은 매출 잠재력, 30배 높은 처리량, 25배 높은 에너지 효율성, 300배 높은 물 효율성을 제공합니다.¹⁷

Direct-to-chip 솔루션은 현재 부품당 최대 1,600와트를 처리하며, 공랭 대비 58% 높은 서버 밀도를 가능하게 하면서 인프라 에너지 소비를 40% 절감합니다.¹⁸ Supermicro의 DLC-2 지원 NVIDIA HGX B200 시스템은 CPU, GPU, DIMM, PCIe 스위치, 전압 조정기, 전원 공급 장치를 액체 냉각하여 시스템 열의 최대 98%를 포집하며, 50데시벨 수준의 저소음 데이터센터 운영을 가능하게 합니다.¹⁹

Accelsius는 NeuCool 기술로 두 가지 열 관리 마일스톤을 달성했습니다: GPU 소켓당 4,500와트 냉각 성공과 40°C 온수를 사용하여 250킬로와트 AI 랙 풀 로드 상태에서 안전한 GPU 온도 유지입니다.²⁰ 냉수 대신 온수를 사용할 수 있는 능력은 냉각 인프라 요구 사항과 운영 비용을 절감합니다.

침수 냉각, 극한 밀도를 위해 확장되다

침수 냉각은 서버를 유전체 유체에 담가 랙당 100킬로와트 이상을 달성하며, 일부 설계에서는 250킬로와트까지 확장됩니다.²¹ GRC의 ICEraQ와 같은 시스템은 시스템당 최대 368킬로와트의 냉각 용량을 달성하면서 전력 사용 효율(PUE)을 1.03 미만으로 유지합니다.²² 이 방식은 팬을 완전히 제거하고 동일한 면적에 10~15배 더 많은 컴퓨팅 자원을 집적할 수 있게 합니다.²³

데이터센터 침수 냉각 시장은 2025년 48억 7천만 달러에 도달했으며, 2030년까지 연평균 17.91% 성장하여 111억 달러에 이를 전망입니다.²⁴ 단상 시스템이 설치 친숙성 덕분에 가장 큰 시장 점유율을 유지하고 있으나, 극한 밀도와 펌프 없는 아키텍처가 필수적인 파일럿 프로젝트에서는 이상 시스템이 선호됩니다.²⁵

기존 공랭 대비 단상 침수 냉각은 전력 수요를 최대 거의 절반까지 줄이고, CO2 배출량을 최대 30%까지 감소시키며, 물 소비량을 최대 99%까지 절감합니다.²⁶ 효율성 향상은 AI 서비스의 수익 창출 시간 단축으로 직결됩니다. 모든 평방피트에서 더 높은 활용률을 이끌어내는 능력은 하이퍼스케일 도입을 촉진하는 가장 강력한 경제적 동인으로 남아 있습니다.²⁷

2025년 5월, Intel은 Shell Global Solutions와 파트너십을 맺고 4세대 및 5세대 Xeon 프로세서용 최초의 Intel 인증 침수 냉각 솔루션을 출시하여 생산 규모에서 고성능 열 관리를 가능하게 했습니다.²⁸ 이 파트너십은 침수 냉각이 엔터프라이즈 배포에 필요한 인증 및 지원 수준에 도달했음을 시사합니다.

하이퍼스케일러 배포가 표준을 정립하다

Microsoft의 Azure AI 클러스터, Google의 TPU 배포, Meta의 LLaMA 모델 학습 노드 모두 액체 냉각으로 전환했습니다.²⁹ 2025년에 공개된 Microsoft의 첨단 AI 슈퍼컴퓨터는 GPT-Next 학습 워크로드를 지원하는 액체 냉각 전용 랙을 특징으로 합니다.³⁰ 하이퍼스케일러의 투자는 액체 냉각이 실험적 기술이 아닌 생산 준비된 인프라임을 입증합니다.

HPE는 2025년 2월 최초의 NVIDIA Blackwell 제품군 솔루션인 GB200 NVL72를 출하했습니다.³¹ HPE는 세계에서 가장 빠른 슈퍼컴퓨터 상위 10개 중 7개를 구축하여 직접 액체 냉각 분야에서 깊은 전문성을 확보했습니다.³² 이 회사의 레퍼런스 아키텍처는 엔터프라이즈 배포를 위한 청사진을 제공합니다.

Vertiv의 NVIDIA GB200 NVL72 서버용 레퍼런스 아키텍처는 연간 에너지 소비를 25% 줄이고, 랙 공간 요구량을 75% 절감하며, 전력 설치 면적을 30% 축소합니다.³³ Schneider Electric의 액체 냉각 인프라는 GB200 NVL72 AI 데이터센터에서 랙당 최대 132킬로와트를 지원합니다.³⁴ 이제 벤더 생태계는 맞춤 엔지니어링 대신 턴키 솔루션을 제공합니다.

Meta는 Microsoft와 함께 Air-Assisted Liquid Cooling을 개발했으며, 이는 하이브리드 방식의 레트로핏 가능한 솔루션입니다.³⁵ 이 접근 방식을 통해 Meta는 전체 공랭 인프라를 전면 개편하지 않고도 액체 냉각을 통합하기 시작할 수 있었으며, 기존 시설을 보유한 조직을 위한 실용적인 전환 경로를 보여주었습니다.

레트로핏의 과제는 여전히 존재

운영 중인 데이터센터를 더 강력한 프로세서에 맞게 개조하는 것은 상당한 기술적, 물류적 과제를 수반합니다.³⁶ 일부 운영자들은 기존 시설을 업그레이드하는 것보다 새 시설을 건설하는 것이 더 쉽다는 결론에 도달합니다.³⁷ 이 결정은 시설 노후도, 잔여 사용 수명, 계획된 AI 배포 규모에 따라 달라집니다.

액체 냉각은 액체 분배 장치, 콜드 플레이트, 침수 탱크, 냉각수 펌프를 포함한 전문 인프라가 필요합니다.³⁸ 레트로핏은 서버 랙 수정, 누수 방지 시스템 추가, 규제 준수 확보를 수반합니다.³⁹ 브라운필드 사이트는 그린필드 프로젝트가 피할 수 있는 아키텍처 및 인프라 제한에 직면합니다.

브라운필드 사이트에서 침수 냉각과 같은 인프라 집약적 솔루션의 도입률이 20.4%로 낮은 것은 이러한 실질적 제약을 반영합니다.⁴⁰ 이러한 제약에는 탱크 수용을 위한 대규모 개조, 제한된 바닥 면적, 기존 전력 및 냉각 인프라와의 통합 어려움이 포함됩니다.⁴¹ 브라운필드 사이트는 전면적인 인프라 개편을 피할 수 있는 liquid-to-air 냉각과 같은 점진적 솔루션을 채택할 가능성이 더 높습니다.⁴²

Schneider Electric은 NVIDIA와 협력하여 시설을 처음부터 재설계하지 않고도 성능 향상을 추구하는 데이터센터 운영자를 위한 세 가지 레트로핏 레퍼런스 설계를 개발했습니다.⁴³ 이러한 설계는 대부분의 조직이 그린필드 AI 데이터센터를 구축할 수 없으며 기존 제약 조건 내에서 작업해야 함을 인정합니다.

운영 복잡성 증가

액체 시스템은 칩만 냉각하기 때문에 보조 공랭이 여전히 전체 열 부하의 20~30%를 처리합니다.⁴⁴ 하이브리드 냉각 아키텍처는 많은 조직이 내부적으로 보유하지 못한 전문성을 필요로 합니다.⁴⁵ 운영상의 변화는 기계적 업그레이드만큼이나 중요합니다.

액체 냉각은 새로운 운영 요구 사항을 도입합니다: 누수 감지, 유압 이중화, 냉각수 품질 관리, 기술자 역량 강화.⁴⁶ 기존 데이터센터 운영 팀은 AI 인프라가 요구하는 규모의 배관, 펌프, 열교환기에 대한 경험이 없을 수 있습니다. 이러한 기술 격차는 배포 일정과 지속적인 운영에 영향을 미칩니다.

ZutaCore는 NVIDIA Grace ARM 프로세서와 Blackwell GPU를 결합한 GB200 슈퍼칩을 지원하는 direct-to-chip 액체 냉각 시스템을 개발했습니다.⁴⁷ 서드파티 솔루션은 옵션을 확장하지만 벤더 관리와 지원 체계를 복잡하게 만들기도 합니다.

공급망 문제는 하이브리드 냉각 계획을 복잡하게 만들 수 있으며, 무역 정책 변화로 인해 악화될 가능성이 있습니다.⁴⁸ 컴퓨팅 파워의 급격한 증가는 오늘날 최첨단에 있는 데이터센터도 빠르게 뒤처질 수 있음을 의미합니다.⁴⁹ 목표가 계속 움직이는 상황에서 미래 전력 밀도를 고려한 시설 설계는 어려운 과제입니다.

지역별 도입 양상

북미는 하이퍼스케일 클라우드 제공업체의 생산 규모 배포를 통해 시장 도입을 선도합니다.⁵⁰ 미국 시장은 2024년 10억 9천만 달러에서 2034년 63억 9천만 달러로 성장할 전망입니다.⁵¹ AWS, Google, Microsoft의 하이퍼스케일러 투자가 도입을 견인하고 기업들이 그 뒤를 따르고 있습니다.

아시아 태평양 지역은 일본, 중국, 한국이 액체 냉각 AI 클러스터를 선도하면서 가장 급격한 성장세를 보이고 있습니다.⁵² 덥고 습한 기후에서는 기존 공랭이 비용 면에서 비효율적입니다.⁵³ 침수 냉각은 특히 지역 조건에 적합한 지속 가능하고 공간 효율적인 솔루션을 제공합니다. 아시아 태평양 지역은 예측 기간 동안 글로벌 침수 냉각 시장을 선도합니다.⁵⁴

이러한 지리적 분포는 기후 조건과 AI 인프라 투자 집중도를 모두 반영합니다. 공격적인 AI 개발 프로그램을 추진하는 지역이 필요에 의해 냉각 혁신을 주도하고 있습니다.

전략적 계획 고려사항

AI 인프라를 계획하는 조직은 시설 및 예산 결정에 액체 냉각을 반영해야 합니다. Direct-to-chip과 침수 냉각 사이의 선택은 배포 규모, 레트로핏 제약, 운영 역량에 따라 달라집니다.

신규 배포의 경우, 30킬로와트를 초과하는 모든 랙에 대해 액체 냉각을 기본 사양으로 지정해야 합니다. 100킬로와트 이상의 밀도를 계획하면 2027년까지의 GPU 로드맵에 대비할 수 있습니다. 오늘날 액체 냉각 인프라 없이 설계된 시설은 수년 내에 비용이 많이 드는 레트로핏이나 교체에 직면하게 될 것입니다.

기존 시설의 경우, 레트로핏 가능성을 솔직하게 평가해야 합니다. Schneider Electric의 레퍼런스 설계가 출발점을 제공하지만 상당한 엔지니어링 작업이 여전히 필요합니다. 공랭 인프라 위에 액체 냉각을 추가하는 하이브리드 접근 방식은 점진적인 전환 경로를 제공합니다.