डायरेक्ट-टू-चिप कूलिंग इम्प्लीमेंटेशन: 2025 में PUE को 1.2 से नीचे लाना

8 दिसंबर, 2025 को अपडेट किया गया

दिसंबर 2025 अपडेट: डायरेक्ट-टू-चिप कूलिंग अब AI डेटासेंटर लिक्विड कूलिंग मार्केट में 47% की प्रभावी हिस्सेदारी रखती है। Microsoft ने जुलाई 2025 में Azure कैंपस में फ्लीट डिप्लॉयमेंट शुरू किया और नेक्स्ट-जेनरेशन सिस्टम्स के लिए माइक्रोफ्लुइडिक्स का परीक्षण कर रहा है। NVIDIA Blackwell GPUs (GB200/GB300) के 1,200-1,400W पर ऑपरेट करने और Vera Rubin सिस्टम्स के प्रति रैक 600kW को टारगेट करने के साथ, डायरेक्ट-टू-चिप कूलिंग नीच से आवश्यकता में बदल गई है। लिक्विड कूलिंग मार्केट 2025 में $5.52 बिलियन तक पहुंच गया, जिसके 2030 तक $15.75 बिलियन होने का अनुमान है।

डायरेक्ट-टू-चिप कूलिंग GPU डाइज़ और कूलिंग सिस्टम्स के बीच 80% थर्मल रेज़िस्टेंस को खत्म करती है, डेटा सेंटर PUE को 1.58 से 1.15 तक गिराती है और साथ ही 1,200W GPUs को सक्षम बनाती है जो पारंपरिक एयर-कूल्ड इंफ्रास्ट्रक्चर को पिघला देंगे।¹ CoolIT Systems ने एक प्रोडक्शन डिप्लॉयमेंट में दिखाया जहां 300 NVIDIA H100 GPUs ने फुल लोड पर सिर्फ 25°C इनलेट वॉटर का उपयोग करके 62°C जंक्शन टेम्परेचर बनाए रखा, वह हासिल किया जो एयर कूलिंग 15°C इनलेट एयर के साथ भी नहीं कर सकी।² यह टेक्नोलॉजी कूलिंग को एक सीमित कारक से प्रतिस्पर्धात्मक लाभ में बदल देती है, जहां शुरुआती अपनाने वालों को एयर-कूल्ड प्रतियोगियों की तुलना में 40% अधिक कंप्यूट डेंसिटी और 35% कम ऑपरेटिंग लागत का फायदा मिलता है।³

फिज़िक्स एक प्रभावशाली कहानी बताती है। पारंपरिक कूलिंग सात थर्मल इंटरफेसेस के माध्यम से हीट को मूव करती है: सिलिकॉन डाई से इंटीग्रेटेड हीट स्प्रेडर, थर्मल पेस्ट से हीटसिंक, हीटसिंक फिन्स से एयर, एयर से कूलिंग कॉइल्स, कॉइल्स से चिल्ड वॉटर, और अंत में एटमॉस्फियर में रिजेक्शन।⁴ प्रत्येक इंटरफेस थर्मल रेज़िस्टेंस जोड़ता है, जिससे स्वीकार्य चिप टेम्परेचर बनाए रखने के लिए तेज़ी से ठंडी एयर की ज़रूरत होती है। डायरेक्ट-टू-चिप कूलिंग इनमें से पांच इंटरफेसेस को बायपास करती है, हीट को प्रोसेसर से सीधे कोल्ड प्लेट के माध्यम से लिक्विड कूलेंट में मूव करती है। यह सरलीकृत पथ आवश्यक टेम्परेचर डिफरेंशियल्स को 75% कम करता है, जिससे उच्च एम्बिएंट कूलिंग टेम्परेचर्स संभव होते हैं जो एनर्जी कंज़म्पशन को काफी कम करते हैं।

इंजीनियरिंग फंडामेंटल्स कूलिंग इकोनॉमिक्स को नया रूप देते हैं

डायरेक्ट-टू-चिप कूलिंग सीधी थर्मोडायनामिक्स पर काम करती है जो असाधारण परिणाम देती है। कोल्ड प्लेट्स स्प्रिंग-लोडेड मैकेनिज़्म का उपयोग करके सीधे प्रोसेसर्स पर माउंट होती हैं जो थर्मल इंटरफेस मटीरियल्स पर ऑप्टिमल प्रेशर बनाए रखती हैं। कोल्ड प्लेट के भीतर माइक्रोचैनल्स टर्बुलेंट फ्लो बनाते हैं, हीट ट्रांसफर कोएफिशिएंट को एयर कूलिंग के 50 W/m²K की तुलना में 15,000 W/m²K तक अधिकतम करते हैं।⁵ यह नाटकीय सुधार 700W GPUs को कूलेंट टेम्परेचर से सिर्फ 5°C टेम्परेचर राइज़ के साथ ऑपरेट करने की अनुमति देता है।

कूलेंट सिलेक्शन सिस्टम परफॉर्मेंस और कॉम्प्लेक्सिटी निर्धारित करता है। परिचितता और कम लागत के कारण सिंगल-फेज़ वॉटर-ग्लाइकोल मिक्सचर्स वर्तमान डिप्लॉयमेंट्स में हावी हैं। पानी की स्पेसिफिक हीट कैपेसिटी 4.18 kJ/kg·K एयर के 1.01 kJ/kg·K से 4 गुना अधिक है, जिसका मतलब है कि कम वॉल्यूम अधिक हीट मूव करता है।⁶ प्रति GPU 0.5-1.0 लीटर प्रति मिनट की फ्लो रेट पर्याप्त है, 200 CFM एयर की तुलना में। कम फ्लो वॉल्यूम छोटे डिस्ट्रीब्यूशन सिस्टम्स और शांत ऑपरेशन को सक्षम बनाता है।

मैनिफोल्ड डिज़ाइन रिलायबिलिटी और सर्विसेबिलिटी को गंभीर रूप से प्रभावित करता है। क्विक-डिस्कनेक्ट फिटिंग्स कूलिंग लूप्स को ड्रेन किए बिना सर्वर्स को हॉट-स्वैप करने की अनुमति देती हैं। ऑटोमैटिक फेलओवर के साथ रिडंडेंट पंप्स सिंगल पॉइंट्स ऑफ फेल्योर को रोकते हैं। वेरिएबल फ्लो कंट्रोल कूलिंग कैपेसिटी को एक्चुअल हीट लोड्स से मैच करता है, पार्शियल यूटिलाइज़ेशन के दौरान एफिशिएंसी में सुधार करता है। कठोर टेस्टिंग और क्वालिटी कंट्रोल के माध्यम से आधुनिक डिज़ाइन 0.001% से कम वार्षिक लीक रेट प्राप्त करते हैं।⁷

GPU क्लस्टर्स के लिए इम्प्लीमेंटेशन आर्किटेक्चर

डायरेक्ट-टू-चिप कूलिंग डिप्लॉय करने के लिए व्यवस्थित इंफ्रास्ट्रक्चर परिवर्तन आवश्यक हैं:

प्राइमरी लूप आर्किटेक्चर: Cooling Distribution Units (CDUs) फैसिलिटी वॉटर और सर्वर कूलिंग लूप्स के बीच हीट एक्सचेंज को मैनेज करती हैं। प्रत्येक CDU 200-500kW IT लोड को सपोर्ट करती है, फैसिलिटी वॉटर को इलेक्ट्रॉनिक्स से अलग करने के लिए प्लेट हीट एक्सचेंजर्स का उपयोग करती है। रिडंडेंट पंप्स 350-500 kPa प्रेशर डिफरेंशियल्स बनाए रखते हैं। स्मार्ट कंट्रोल्स रिटर्न वॉटर टेम्परेचर के आधार पर फ्लो को मॉड्यूलेट करते हैं, एनर्जी कंज़म्पशन को ऑप्टिमाइज़ करते हैं।

सेकेंडरी लूप डिज़ाइन: सर्वर-लेवल लूप्स कोरोज़न और बायोलॉजिकल ग्रोथ को रोकने के लिए डिमिनरलाइज़्ड वॉटर या स्पेशलाइज़्ड कूलेंट्स का उपयोग करते हैं। कंटीन्यूअस फिल्ट्रेशन के माध्यम से कंडक्टिविटी 0.5 μS/cm से नीचे रहती है। बायोसाइड्स एल्गी फॉर्मेशन को रोकते हैं। कोरोज़न इन्हिबिटर्स डिसिमिलर मेटल्स की सुरक्षा करते हैं। pH बफरिंग मटीरियल कम्पैटिबिलिटी के लिए 7.0-8.5 रेंज बनाए रखती है।

रैक-लेवल इंटीग्रेशन: रियर-डोर हीट एक्सचेंजर्स मेमोरी, स्टोरेज और पावर सप्लाइज़ से रेज़िड्युअल एयर-कूल्ड हीट को कैप्चर करते हैं। हाइब्रिड अप्रोच रैक पर 100% हीट कैप्चर प्राप्त करता है, रूम-लेवल कूलिंग की आवश्यकता को समाप्त करता है। रैक मैनिफोल्ड्स 700 kPa वर्किंग प्रेशर के लिए रेटेड फ्लेक्सिबल होज़ेस के माध्यम से कूलेंट को इंडिविजुअल सर्वर्स में डिस्ट्रीब्यूट करते हैं।

फैसिलिटी वॉटर सिस्टम्स: मौजूदा चिल्ड वॉटर प्लांट्स उच्च रिटर्न टेम्परेचर्स के अनुकूल होते हैं, चिलर एफिशिएंसी में 20-30% सुधार करते हैं।⁸ जब सप्लाई टेम्परेचर 7°C से 20°C तक बढ़ते हैं तो फ्री कूलिंग घंटे नाटकीय रूप से बढ़ जाते हैं। 35°C रिटर्न वॉटर के लिए साइज़्ड कूलिंग टावर्स कई जलवायु में साल भर फ्री कूलिंग को सक्षम बनाते हैं।

रियल-वर्ल्ड डिप्लॉयमेंट्स टेक्नोलॉजी को साबित करते हैं

Microsoft के Azure HBv4 इंस्टेंसेस AMD EPYC प्रोसेसर्स के लिए डायरेक्ट-टू-चिप कूलिंग का उपयोग करते हैं, प्रोडक्शन डिप्लॉयमेंट्स में PUE 1.11 प्राप्त करते हैं।⁹ क्विंसी, वाशिंगटन फैसिलिटी 3.6MW कूलिंग पावर का उपयोग करके 33MW कंप्यूट को प्रोसेस करती है। एयर-कूल्ड विकल्पों की तुलना में वार्षिक बचत $4.8 मिलियन से अधिक है। कंसिस्टेंट ऑपरेटिंग टेम्परेचर्स के कारण सर्वर रिलायबिलिटी में 23% सुधार हुआ।

Lawrence Livermore National Laboratory का El Capitan सुपरकंप्यूटर 40,000 AMD MI300A APUs के लिए डायरेक्ट-टू-चिप कूलिंग का उपयोग करता है।¹⁰ सिस्टम PUE 1.08 बनाए रखते हुए 2 एक्साफ्लॉप्स प्राप्त करता है। 35°C इनलेट टेम्परेचर पर वार्म वॉटर कूलिंग कैलिफोर्निया की जलवायु में साल भर फ्री कूलिंग को सक्षम बनाती है। डिज़ाइन बिजली की लागत में सालाना $12 मिलियन बचाता है।

Introl इंजीनियर्स ने हमारे ग्लोबल कवरेज एरिया में 15 फैसिलिटीज़ में डायरेक्ट-टू-चिप कूलिंग डिप्लॉय की है, औसत PUE को 1.55 से 1.18 तक कम किया है।¹¹ एक क्रिप्टोकरेंसी माइनिंग ऑपरेशन के लिए हालिया इंस्टॉलेशन ने 40°C इनलेट वॉटर का उपयोग करके PUE 1.09 प्राप्त किया, मैकेनिकल कूलिंग को पूरी तरह समाप्त कर दिया। क्लाइंट हैशरेट डेंसिटी में 60% वृद्धि करते हुए सालाना $2.3 मिलियन बचाता है।

कंपोनेंट सिलेक्शन सफलता निर्धारित करता है

कोल्ड प्लेट टेक्नोलॉजीज़: CoolIT Systems के माइक्रोचैनल डिज़ाइन 0.015°C/W थर्मल रेज़िस्टेंस प्राप्त करते हैं। Motivair की जेट इम्पिंजमेंट प्लेट्स एक्सट्रीम हीट फ्लक्सेस के लिए 0.012°C/W ऑफर करती हैं। Aavid की वेपर चैंबर एन्हांस्ड प्लेट्स बड़ी डाइज़ के लिए यूनिफॉर्म टेम्परेचर डिस्ट्रीब्यूशन प्रदान करती हैं। मटीरियल चॉइसेस में मैक्सिमम कंडक्टिविटी के लिए कॉपर, कॉस्ट ऑप्टिमाइज़ेशन के लिए एल्युमिनियम, और कोरोज़न रेज़िस्टेंस के लिए निकेल प्लेटिंग शामिल हैं।

कूलेंट डिस्ट्रीब्यूशन यूनिट्स: Motivair ChilledDoor CDUs N+1 पंप रिडंडेंसी के साथ 750kW हैंडल करती हैं। CoolIT Coolant Distribution Modules 8U फॉर्म फैक्टर में 300kW सपोर्ट करते हैं। Vertiv XDU यूनिट्स इंटीग्रेटेड लीक डिटेक्शन के साथ 450kW कैपेसिटी ऑफर करती हैं। सिलेक्शन फैसिलिटी लेआउट, रिडंडेंसी रिक्वायरमेंट्स और मौजूदा इंफ्रास्ट्रक्चर पर निर्भर करता है।

मॉनिटरिंग सिस्टम्स: कंटीन्यूअस मॉनिटरिंग कैटास्ट्रोफिक फेल्योर्स को रोकती है। फ्लो सेंसर्स ओवरहीटिंग से पहले ब्लॉकेजेस का पता लगाते हैं। प्रेशर सेंसर्स सेकंड्स के भीतर लीक्स की पहचान करते हैं। टेम्परेचर एरेज़ कंपोनेंट्स में थर्मल परफॉर्मेंस को मैप करते हैं। कंडक्टिविटी मीटर्स कूलेंट कंटैमिनेशन की चेतावनी देते हैं। DCIM प्लेटफॉर्म्स के साथ इंटीग्रेशन प्रेडिक्टिव मेंटेनेंस को सक्षम बनाता है।

कूलेंट केमिस्ट्री: Nalco Water के डेटा सेंटर कूलेंट्स लो कंडक्टिविटी बनाए रखते हुए कोरोज़न को रोकते हैं। Dow के SYLTHERM स्पेशलाइज़्ड फ्लुइड्स एक्सट्रीम एप्लीकेशंस के लिए -50°C से 260°C तक ऑपरेट करते हैं। Cargill के बायो-बेस्ड कूलेंट्स एनवायरनमेंटल सस्टेनेबिलिटी ऑफर करते हैं। रेगुलर टेस्टिंग ऑप्टिमल प्रॉपर्टीज़ बनाए रखती है और इक्विपमेंट लाइफ बढ़ाती है।

इकोनॉमिक एनालिसिस एडॉप्शन डिसीज़न्स को ड्राइव करता है

डायरेक्ट-टू-चिप कूलिंग के लिए कैपिटल इन्वेस्टमेंट IT लोड के प्रति kW $1,500 से $3,000 तक होता है:¹²

इंफ्रास्ट्रक्चर कॉस्ट्स: - CDU यूनिट्स: $150,000 प्रति 300kW कैपेसिटी - पाइपिंग और मैनिफोल्ड्स: $200 प्रति सर्वर - कोल्ड प्लेट्स: $400-800 प्रति GPU - इंस्टॉलेशन लेबर: $300 प्रति सर्वर - कूलेंट और ट्रीटमेंट: $50 प्रति सर्वर - मॉनिटरिंग सिस्टम्स: $100 प्रति सर्वर - टोटल प्रति 42U रैक (20 सर्वर्स): $45,000-65,000

ऑपरेशनल सेविंग्स: - एनर्जी रिडक्शन: $0.10/kWh पर प्रति रैक सालाना $12,000 - इन्क्रीज़्ड डेंसिटी: प्रति स्क्वायर फुट 40% अधिक कंप्यूट - रिड्यूस्ड मैकेनिकल कूलिंग: प्रति रैक सालाना $8,000 - लोअर फैन पावर: प्रति रैक सालाना $3,000 - एक्सटेंडेड कंपोनेंट लाइफ: 20% लंबा MTBF - पेबैक पीरियड: 18-24 महीने

टोटल कॉस्ट ऑफ ओनरशिप: पांच साल का TCO एनालिसिस हाई-डेंसिटी GPU डिप्लॉयमेंट्स के लिए एयर कूलिंग की तुलना में 35% कम लागत दिखाता है। एक 1,000-GPU फैसिलिटी रिड्यूस्ड एनर्जी कंज़म्पशन और इन्क्रीज़्ड डेंसिटी के माध्यम से पांच वर्षों में $8.5 मिलियन बचाती है। कार्बन क्रेडिट्स और सस्टेनेबिलिटी इंसेंटिव्स अतिरिक्त फाइनेंशियल बेनिफिट्स प्रदान करते हैं।

मौजूदा फैसिलिटीज़ के लिए रेट्रोफिट स्ट्रैटेजीज़

एयर-कूल्ड इंफ्रास्ट्रक्चर को कन्वर्ट करने के लिए सावधानीपूर्वक प्लानिंग आवश्यक है:

फेज़ 1 - असेसमेंट (30 दिन): मौजूदा कूलिंग कैपेसिटी, पावर डिस्ट्रीब्यूशन और स्ट्रक्चरल सपोर्ट का मूल्यांकन करें। फैसिलिटी वॉटर तक पहुंच के साथ ऑप्टिमल CDU लोकेशंस की पहचान करें। मौजूदा इंफ्रास्ट्रक्चर के साथ कॉन्फ्लिक्ट्स से बचते हुए पाइपिंग रूट्स प्लान करें। प्रेशर ड्रॉप्स और पंप रिक्वायरमेंट्स कैलकुलेट करें। डिसरप्शन को मिनिमाइज़ करते हुए माइग्रेशन शेड्यूल डेवलप करें।

फेज़ 2 - इंफ्रास्ट्रक्चर (60 दिन): शेड्यूल्ड मेंटेनेंस विंडोज़ के दौरान CDUs और प्राइमरी पाइपिंग इंस्टॉल करें। उच्च रिटर्न टेम्परेचर्स के लिए फैसिलिटी वॉटर सिस्टम्स को अपग्रेड करें। डिस्ट्रीब्यूशन नेटवर्क में मॉनिटरिंग पॉइंट्स जोड़ें। प्रोडक्शन डिप्लॉयमेंट से पहले डमी लोड्स का उपयोग करके सिस्टम्स को कमीशन करें। ऑपरेशंस स्टाफ को नई प्रोसीजर्स पर ट्रेन करें।

फेज़ 3 - माइग्रेशन (90 दिन): ऑपरेशंस बनाए रखने के लिए रो बाय रो रैक्स कन्वर्ट करें। प्रोसीजर्स को वैलिडेट करने के लिए डेवलपमेंट/टेस्ट एनवायरनमेंट्स से शुरू करें। मेंटेनेंस विंडोज़ के दौरान प्रोडक्शन वर्कलोड्स मूव करें। टेम्परेचर्स मॉनिटर करें और ऑप्टिमाइज़ेशन के लिए फ्लो रेट्स एडजस्ट करें। बाद के फेज़ेस के लिए लर्न्ड लेसन्स डॉक्यूमेंट करें।

फेज़ 4 - ऑप्टिमाइज़ेशन (ऑनगोइंग): फ्री कूलिंग को मैक्सिमाइज़ करने के लिए कूलेंट टेम्परेचर्स को धीरे-धीरे बढ़ाएं। एक्चुअल बनाम डिज़ाइन लोड्स के आधार पर फ्लो रेट्स एडजस्ट करें। सेंसर डेटा का उपयोग करके प्रेडिक्टिव मेंटेनेंस इम्प्लीमेंट करें। एनर्जी एफिशिएंसी के लिए कंट्रोल एल्गोरिदम्स को फाइन-ट्यून करें। प्रूवन रिज़ल्ट्स के आधार पर डिप्लॉयमेंट एक्सपैंड करें।

फ्यूचर डेवलपमेंट्स सीमाओं को आगे बढ़ाते हैं

टू-फेज़ इमर्शन कूलिंग पंप्स को पूरी तरह समाप्त करके PUE को 1.02 के करीब पहुंचाने का वादा करती है।¹³ डाइइलेक्ट्रिक फ्लुइड्स चिप सर्फेसेस पर बॉइल होते हैं, पैसिव सर्कुलेशन के लिए कूलर सर्फेसेस पर कंडेंस होते हैं। अर्ली डिप्लॉयमेंट्स एयर कूलिंग की तुलना में 95% एनर्जी रिडक्शन दिखाते हैं। चैलेंजेस में फ्लुइड कॉस्ट्स ($200/लीटर) और मटीरियल कम्पैटिबिलिटी कंसर्न्स शामिल हैं।

ऑन-चिप कूलिंग इंटीग्रेशन सीधे सिलिकॉन सब्सट्रेट्स में माइक्रोचैनल्स एम्बेड करता है।¹⁴ IBM Research ने एम्बेडेड कूलिंग का उपयोग करके 1,700W/cm² हीट रिमूवल डेमोंस्ट्रेट किया। प्रोडक्शन इम्प्लीमेंटेशन कॉस्ट-इफेक्टिव मैन्युफैक्चरिंग टेक्नीक्स की प्रतीक्षा कर रहा है। यह टेक्नोलॉजी अभूतपूर्व कंप्यूट डेंसिटी के साथ 3D चिप स्टैकिंग को सक्षम कर सकती है।

वेस्ट हीट रिकवरी कूलिंग को कॉस्ट सेंटर से रेवेन्यू जनरेटर में बदल देती है। स्टॉकहोम के डेटा सेंटर्स डिस्ट्रिक्ट हीटिंग इंटीग्रेशन के माध्यम से शहर की 10% हीटिंग प्रदान करते हैं।¹⁵ हाई-टेम्परेचर डायरेक्ट-टू-चिप कूलिंग हीट पंप्स के बिना हीट रिकवरी को सक्षम बनाती है। ऑर्गनाइज़ेशंस वेस्ट हीट सेल्स के माध्यम से नेट-नेगेटिव कूलिंग कॉस्ट्स प्राप्त करते हैं।

डायरेक्ट-टू-चिप कूलिंग इम्प्लीमेंट करने वाले ऑर्गनाइज़ेशंस इम्प्रूव्ड एफिशिएंसी, इन्क्रीज़्ड डेंसिटी और लोअर ऑपरेटिंग कॉस्ट्स के माध्यम से महत्वपूर्ण कॉम्पिटिटिव एडवांटेजेस प्राप्त करते हैं। यह टेक्नोलॉजी 700W प्रति चिप से अधिक वाली नेक्स्ट-जेनरेशन GPU डिप्लॉयमेंट्स के लिए आवश्यक साबित होती है। अर्ली एडॉप्टर्स कंटीन्यूड पावर डेंसिटी इन्क्रीज़ेस के लिए तैयार सस्टेनेबल इंफ्रास्ट्रक्चर स्थापित करते हैं जबकि लैगर्ड्स को महंगे रेट्रोफिट्स या कॉम्पिटिटिव डिसएडवांटेज का सामना करना पड़ता है। एयर से लिक्विड कूलिंग में ट्रांज़िशन डेटा सेंटर डिज़ाइन में एक फंडामेंटल शिफ्ट का प्रतिनिधित्व करता है जिसे AI युग में व्यवहार्य बने रहने के लिए फॉरवर्ड-थिंकिंग ऑर्गनाइज़ेशंस को अपनाना होगा।

प्रमुख निष्कर्ष

इंफ्रास्ट्रक्चर आर्किटेक्ट्स के लिए: - डायरेक्ट-टू-चिप 7 में से 5 थर्मल इंटरफेसेस को समाप्त करता है—एयर के 50 W/m²K की तुलना में 15,000 W/m²K - PUE 1.58 से 1.05-1.15 तक गिरता है—कूलिंग एनर्जी ओवरहेड में 94% की कमी - 700W GPUs o

[अनुवाद के लिए कंटेंट छोटा किया गया]