हाई-डेंसिटी रैक: AI डेटा सेंटर इंफ्रास्ट्रक्चर के लिए 100kW+ डिज़ाइन

11 दिसंबर, 2025 को अपडेट किया गया

दिसंबर 2025 अपडेट: 2025 में औसत AI रैक की लागत $3.9M है जबकि पारंपरिक $500K—7 गुना वृद्धि। GB200NVL72 रैक 132kW तक पहुंच रहे हैं; Blackwell Ultra और Rubin 2026-2027 तक 576 GPUs/रैक के साथ 250-900kW को लक्षित कर रहे हैं। NVIDIA OCP 2025 में 1MW रैक डिज़ाइन का अनावरण। Eaton Heavy-Duty SmartRack AI के लिए 5,000 lbs स्टैटिक वेट सपोर्ट कर रहा है। 100kW इंफ्रास्ट्रक्चर बनाने की लागत $200-300K/रैक।

2025 में औसत AI रैक की लागत $3.9 मिलियन होगी, जबकि पारंपरिक सर्वर रैक के लिए $500,000।¹ यह सात गुना लागत वृद्धि रैक आवश्यकताओं में मूलभूत परिवर्तन को दर्शाती है क्योंकि 1,000-वाट की सीमा पार करने वाले GPUs रैक पावर डेंसिटी को 100kW से आगे 1MW की ओर धकेल रहे हैं।² NVIDIA के Blackwell Ultra और Rubin AI सर्वर को 2026-2027 तक प्रति रैक 576 GPUs के साथ 250 से 900kW के बीच की आवश्यकता होगी।³ इन सिस्टम को होस्ट करने वाले रैक इंफ्रास्ट्रक्चर को तदनुसार विकसित होना चाहिए, जिसमें स्ट्रक्चरल रीइन्फोर्समेंट, लिक्विड कूलिंग इंटीग्रेशन, और पावर डिस्ट्रीब्यूशन क्षमताएं शामिल हैं जिनकी पारंपरिक एनक्लोजर ने कभी कल्पना नहीं की थी।

डेटा सेंटर रैक मार्केट 2033 तक $9.41 बिलियन की वृद्धि का अनुमान लगाता है क्योंकि AI वर्कलोड भौतिक इंफ्रास्ट्रक्चर आवश्यकताओं को नया आकार दे रहे हैं।⁴ 10-15kW प्रति रैक हैंडल करने वाले पारंपरिक डेटा सेंटर के विपरीत, AI सुविधाओं को मशीन लर्निंग कम्प्यूटेशनल डिमांड को सपोर्ट करने के लिए प्रति रैक 40-250kW की आवश्यकता होती है।⁵ AI इंफ्रास्ट्रक्चर की योजना बनाने वाले संगठनों को पावर डेंसिटी और वेट कैपेसिटी के बारे में पुरानी धारणाओं के बजाय वर्तमान और अनुमानित GPU आवश्यकताओं के विरुद्ध रैक स्पेसिफिकेशन का मूल्यांकन करना चाहिए।

पावर डेंसिटी का विकास नए रैक डिज़ाइन की मांग करता है

प्रति रैक 100kW+ की ओर बढ़ना डेटा सेंटर इंफ्रास्ट्रक्चर में विकास और क्रांति दोनों का प्रतिनिधित्व करता है।⁶ 5-10kW लोड के लिए डिज़ाइन किए गए पारंपरिक रैक मूलभूत आर्किटेक्चरल परिवर्तनों के बिना आधुनिक GPU सर्वर पावर आवश्यकताओं को सुरक्षित रूप से सपोर्ट नहीं कर सकते।

वर्तमान डेंसिटी रेंज विस्तृत डिप्लॉयमेंट परिदृश्यों में फैली हुई हैं। हाई-डेंसिटी AI ट्रेनिंग क्लस्टर को 40-60kW रैक की आवश्यकता होती है। लार्ज लैंग्वेज मॉडल वर्कलोड कम से कम 70kW की मांग करते हैं। नेशनल सिक्योरिटी और AI रिसर्च के लिए सुपरकंप्यूटिंग एप्लिकेशन 100kW या उससे अधिक खींचते हैं।⁷ प्रक्षेपवक्र तेज होता जा रहा है।

NVIDIA सिस्टम आवश्यकताएं इंफ्रास्ट्रक्चर बेंचमार्क को परिभाषित करती हैं। 2024 में पेश किए गए GB200NVL72 रैक डिज़ाइन 132kW पीक पावर डेंसिटी तक पहुंचते हैं।⁸ भविष्य के Blackwell Ultra और Rubin सिस्टम को प्रति रैक 576 GPUs के साथ 900kW तक की आवश्यकता होती है।⁹ OCP 2025 में NVIDIA के ओपनिंग कीनोट ने 1MW तक की मांग करने वाले नेक्स्ट-जनरेशन AI रैक का अनावरण किया।¹⁰

पावर डिस्ट्रीब्यूशन आर्किटेक्चर डेंसिटी वृद्धि के अनुकूल होते हैं। सेंट्रलाइज़िंग रेक्टिफिकेशन AC को सोर्स के करीब DC में कन्वर्ट करता है, फिर हाई-वोल्टेज DC को सीधे रैक में डिस्ट्रीब्यूट करता है, लॉस को कम करता है और PUE में सुधार करता है।¹¹ Meta, Google, और Microsoft सहित हाइपरस्केलर 13.8kV तक मीडियम वोल्टेज डिस्ट्रीब्यूशन और 400VDC और 800VDC पर हायर DC वोल्टेज आर्किटेक्चर डिप्लॉय करते हैं।¹²

लागत निहितार्थ महत्वपूर्ण साबित होते हैं। नया 100kW-सक्षम इंफ्रास्ट्रक्चर बनाने की लागत $200,000-300,000 प्रति रैक है लेकिन भविष्य की वृद्धि के लिए रनवे प्रदान करता है।¹³ 40kW डेंसिटी के लिए मौजूदा सुविधाओं को रेट्रोफिट करने की लागत $50,000-100,000 प्रति रैक है।¹⁴ निवेश स्केल के लिए सावधानीपूर्वक कैपेसिटी प्लानिंग की आवश्यकता है।

डेंस डिप्लॉयमेंट के लिए स्ट्रक्चरल आवश्यकताएं

जैसे-जैसे GPU सर्वर पारंपरिक सर्वर मास से अधिक होते हैं, वेट कैपेसिटी महत्वपूर्ण हो जाती है। AI सर्वर घने कंपोनेंट, बड़े हीटसिंक, और लिक्विड कूलिंग हार्डवेयर पैक करते हैं जिन्हें लीगेसी रैक सुरक्षित रूप से सपोर्ट नहीं कर सकते।

स्टैटिक वेट कैपेसिटी को पूरी तरह से लोडेड कॉन्फ़िगरेशन को समायोजित करना चाहिए। Eaton ने अक्टूबर 2024 में विशेष रूप से AI के लिए Heavy-Duty SmartRack एनक्लोजर लॉन्च किए, जिसमें 5,000 lbs तक की स्टैटिक वेट कैपेसिटी है।¹⁵ एक्सटेंडेड 54-इंच डेप्थ GPU डिप्लॉयमेंट में सामान्य बड़े AI सर्वर को समायोजित करती है।¹⁶ 2,000-3,000 lb लोड के लिए डिज़ाइन किए गए स्टैंडर्ड रैक को AI सर्वर डिप्लॉयमेंट से पहले मूल्यांकन की आवश्यकता होती है।

फ्लोर लोडिंग के लिए फैसिलिटी इवैल्यूएशन की मांग होती है। फ्लडेड होने पर CDU का वजन 3 टन तक पहुंच सकता है, जिसके लिए 800kg/m² की फ्लोर लोड कैपेसिटी की आवश्यकता होती है।¹⁷ सर्वर वेट और लिक्विड कूलिंग इंफ्रास्ट्रक्चर के साथ मिलाकर, कुल फ्लोर लोडिंग पारंपरिक डेटा सेंटर स्पेसिफिकेशन से अधिक हो सकती है।

रैक डेप्थ स्टैंडर्ड डायमेंशन से आगे बढ़ती है। NVIDIA HGX सर्वर और समान प्लेटफॉर्म को 42-इंच स्टैंडर्ड डेप्थ रैक की तुलना में गहरे एनक्लोजर की आवश्यकता होती है।¹⁸ एक्सटेंडेड डेप्थ की योजना बनाना आइल स्पेसिंग, फैसिलिटी लेआउट, और केबल रूटिंग को प्रभावित करता है।

थर्मल मैनेजमेंट इंटीग्रेशन स्ट्रक्चरल डिज़ाइन को प्रभावित करता है। हाई-पावर रैक हीट प्लम जनरेट करते हैं जिन्हें अबाधित एयरफ्लो पाथ की आवश्यकता होती है।¹⁹ NVIDIA ऑप्टिमाइज़्ड एयर-कूल्ड कॉन्फ़िगरेशन के लिए नीचे दो सर्वर, 3-6U खाली गैप, फिर ऊपर दो सर्वर रखने की सिफारिश करता है।²⁰ रैक लेआउट सीधे कूलिंग इफेक्टिवनेस को प्रभावित करता है।

लिक्विड कूलिंग इंटीग्रेशन आवश्यकताएं

AI वर्कलोड सर्व करने वाले रैक को लिक्विड कूलिंग इंफ्रास्ट्रक्चर को समायोजित करना चाहिए जिसकी एयर-कूल्ड एनक्लोजर ने कभी कल्पना नहीं की थी। इंटीग्रेशन रैक सिलेक्शन और फैसिलिटी प्लानिंग में जटिलता जोड़ता है।

कोल्ड प्लेट सपोर्ट के लिए मैनिफोल्ड इंटीग्रेशन की आवश्यकता होती है। डायरेक्ट-टू-चिप कूलिंग CPU और GPU हीट सोर्स में कूलेंट लाती है, प्रति रैक 30-40kW रिमूव करती है।²¹ रैक को एनक्लोजर के भीतर फ्लूइड डिस्ट्रीब्यूशन के लिए माउंटिंग पॉइंट, रूटिंग पाथ, और लीक कंटेनमेंट प्रदान करना चाहिए।

रियर डोर हीट एक्सचेंजर माउंटिंग हाइब्रिड कूलिंग को सक्षम बनाती है। RDHx सिस्टम रैक बैक से अटैच होते हैं, नवीनतम कॉन्फ़िगरेशन में प्रति रैक 120kW तक रिमूव करते हैं।²² रैक स्ट्रक्चरल स्पेसिफिकेशन को RDHx वेट और प्लंबिंग कनेक्शन सपोर्ट करने चाहिए।

इमर्शन कम्पैटिबिलिटी उच्चतम डेंसिटी को सक्षम बनाती है। इमर्शन कूलिंग सिस्टम को डाईइलेक्ट्रिक फ्लूइड में सब्मर्ज करती है, फैन को एलिमिनेट करते हुए 50-100kW हैंडल करती है।²³ कुछ डिप्लॉयमेंट पारंपरिक एनक्लोजर के बजाय रैक-स्केल इमर्शन टैंक का उपयोग करते हैं, जिसके लिए अलग फैसिलिटी प्लानिंग की आवश्यकता होती है।

हाइब्रिड आर्किटेक्चर कूलिंग अप्रोच को कंबाइन करते हैं। एक सामान्य 2025 डिज़ाइन में 70% लिक्विड कूलिंग और 30% एयर कूलिंग शामिल है, जिसमें रैक इंटीग्रेशन पॉइंट के रूप में काम करता है।²⁴ रैक को एक साथ दोनों कूलिंग मोडैलिटी को समायोजित करना चाहिए।

फ्लो रेट स्पेसिफिकेशन कूलिंग कैपेबिलिटी निर्धारित करते हैं। 45°C इनलेट टेम्परेचर पर 1.2 LPM/kW का इंडस्ट्री स्टैंडर्ड का मतलब है कि 85kW रैक को 45°C तक कूलिंग के साथ 102 LPM फ्लो सपोर्ट करने वाले CDU और हीट एक्सचेंजर की आवश्यकता होती है।²⁵ रैक प्लंबिंग को आवश्यक फ्लो रेट को रिस्ट्रिक्ट नहीं करना चाहिए।

OCP Open Rack स्पेसिफिकेशन

Open Compute Project हाइपरस्केल एफिशिएंसी के लिए ऑप्टिमाइज़ करने वाले रैक स्टैंडर्ड को परिभाषित करता है। AI वर्कलोड आवश्यकताएं निरंतर स्पेसिफिकेशन इवोल्यूशन को ड्राइव करती हैं।

Open Rack V3 (ORV3) ने फाउंडेशन स्थापित किया। Meta ने 2022 में Google और Rittal के योगदान के साथ बेस स्पेसिफिकेशन को परिभाषित और पब्लिश किया।²⁶ 21-इंच चौड़ाई EIA 19-इंच स्टैंडर्ड से अधिक है, जो महत्वपूर्ण एयरफ्लो वृद्धि की अनुमति देती है।²⁷ पावर शेल्फ, रेक्टिफायर, और बैटरी बैकअप स्पेसिफिकेशन इंटीग्रेटेड पावर डिस्ट्रीब्यूशन को सक्षम बनाते हैं।

Open Rack Wide (ORW) नेक्स्ट-जनरेशन AI को संबोधित करता है। Meta ने OCP 2025 में ORW स्पेसिफिकेशन को नेक्स्ट-जनरेशन AI सिस्टम की पावर, कूलिंग, और सर्विसेबिलिटी डिमांड के लिए ऑप्टिमाइज़्ड ओपन-सोर्स डबल-वाइड रैक स्टैंडर्ड के रूप में पेश किया।²⁸ स्पेसिफिकेशन स्टैंडर्डाइज़्ड, इंटरऑपरेबल, और स्केलेबल डेटा सेंटर डिज़ाइन की ओर फाउंडेशनल शिफ्ट का प्रतिनिधित्व करता है।²⁹

Mt Diablo (Diablo 400) स्पेसिफिकेशन AI क्लस्टर के लिए पावर-रैक साइडकार का वर्णन करता है। Google, Meta, और Microsoft द्वारा सह-लिखित, स्पेसिफिकेशन पारंपरिक 48V कॉन्फ़िगरेशन से परे पावर डिलीवरी को पुश करने वाले डिसएग्रीगेटेड पावर रैक को परिभाषित करता है।³⁰ Delta Electronics ने NVIDIA के साथ विकसित 800VDC "AI Power Cube" इकोसिस्टम को 1.1MW-स्केल AI रैक को पावर करने के लिए डेब्यू किया।³¹

Clemente स्पेसिफिकेशन Meta के AI/ML ट्रेनिंग और इन्फरेंस यूज केस के लिए फॉर्म फैक्टर में NVIDIA GB300 Host Processor Modules को इंटीग्रेट करने वाले कंप्यूट ट्रे का वर्णन करता है।³² स्पेसिफिकेशन साइडकार पावर रैक के साथ OCP ORv3 HPR का उपयोग करने वाले पहले डिप्लॉयमेंट का प्रतिनिधित्व करता है।

इंडस्ट्री इम्प्लीमेंटेशन स्पेसिफिकेशन वैल्यू प्रदर्शित करते हैं। AMD ने ORW ओपन स्टैंडर्ड पर बनाए गए "Helios" रैक-स्केल रेफरेंस सिस्टम की घोषणा की।³³ Rittal का Open Rack V3 डायरेक्ट लिक्विड कूलिंग की तैयारी हाई-परफॉर्मेंस कंप्यूटिंग और AI टेक्नोलॉजी हीट डिसिपेशन को संबोधित करती है।³⁴

AI रैक डिप्लॉयमेंट के लिए वेंडर सॉल्यूशन

प्रमुख इंफ्रास्ट्रक्चर वेंडर ने 2024-2025 में AI-स्पेसिफिक रैक प्रोडक्ट लॉन्च किए।

Schneider Electric ने जून 2025 में हाई-डेंसिटी NetShelter Racks लॉन्च किए, इसके बाद NVIDIA के MGX आर्किटेक्चर को सपोर्ट करने वाले नए OCP-इंस्पायर्ड रैक सिस्टम।³⁵ प्रोडक्ट Schneider के पावर डिस्ट्रीब्यूशन और कूलिंग पोर्टफोलियो के साथ इंटीग्रेट होते हैं।

Eaton Heavy-Duty SmartRack एनक्लोजर 5,000 lb स्टैटिक वेट कैपेसिटी और 54-इंच एक्सटेंडेड डेप्थ के साथ AI डिप्लॉयमेंट को टारगेट करते हैं।³⁶ स्पेसिफिकेशन GPU इंफ्रास्ट्रक्चर में सामान्य बड़े, भारी सर्वर को संबोधित करते हैं।

Supermicro प्रति रैक 100kW तक पावर और कूलिंग के साथ रैक-स्केल लिक्विड कूलिंग सॉल्यूशन प्रदान करता है, जो सिस्टम, रैक, और क्लस्टर लेवल पर एक्सेलरेटेड लीड टाइम के साथ पूरी तरह से वैलिडेटेड है।³⁷ सॉल्यूशन Supermicro के GPU सर्वर पोर्टफोलियो के साथ इंटीग्रेट होते हैं।

Rittal AI टेक्नोलॉजी हीट डिसिपेशन आवश्यकताओं को संबोधित करने वाली लिक्विड कूलिंग प्रिपरेशन के साथ OCP ORV3 कंप्लायंट रैक प्रदान करता है।³⁸ प्रोडक्ट डायरेक्ट लिक्विड कूलिंग इंटीग्रेशन को सपोर्ट करते हैं।

Legrand ने H1 2025 में AI-फोकस्ड डेटा सेंटर इंफ्रास्ट्रक्चर पोर्टफोलियो से 24% रेवेन्यू वृद्धि हासिल की, एनुअलाइज़्ड रेवेन्यू में €500M जोड़ने वाले सात एक्विजिशन किए।³⁹ कंपनी का डेटा सेंटर रेवेन्यू 2025 में €2B से अधिक होने का अनुमान है।⁴⁰

नेटवर्क इंफ्रास्ट्रक्चर विचार

AI क्लस्टर को पारंपरिक डेटा सेंटर की तुलना में पांच गुना अधिक फाइबर इंफ्रास्ट्रक्चर डेंसिटी की आवश्यकता होती है।⁴¹ रैक सिलेक्शन को AI नेटवर्किंग की मांग वाली केबल डेंसिटी को समायोजित करना चाहिए।

InfiniBand और हाई-स्पीड Ethernet केबलिंग के लिए रूटिंग कैपेसिटी की आवश्यकता होती है। AI क्लस्टर सर्वर में GPUs को सिंक्रोनाइज़ करने के लिए अल्ट्रा-हाई-बैंडविड्थ, लो-लेटेंसी नेटवर्क (400Gbps+ Ethernet या InfiniBand XDR) पर निर्भर करते हैं।⁴² नेटवर्क फैब्रिक प्रति रैक 4-5x अधिक फाइबर इंटरकनेक्ट के साथ सुपरकंप्यूटर डिज़ाइन जैसा दिखता है।⁴³

केबल मैनेजमेंट इंटीग्रेशन रैक सिलेक्शन को प्रभावित करता है। प्रति रैक 10-20 केबल के लिए डिज़ाइन किए गए स्टैंडर्ड केबल मैनेजमेंट एक्सेसरीज AI नेटवर्किंग की आवश्यकता वाले सैकड़ों हाई-स्पीड कनेक्शन को समायोजित नहीं कर सकते। प्रोक्योरमेंट से पहले रैक केबल मैनेजमेंट कैपेसिटी का मूल्यांकन करें।

ओवरहेड बनाम अंडरफ्लोर रूटिंग रैक पोजिशनिंग को प्रभावित करती है। AI केबल डेंसिटी पारंपरिक रेज़्ड फ्लोर कैपेसिटी से अधिक हो सकती है, जो ओवरहेड केबल मैनेजमेंट को अपनाने को ड्राइव करती है। सर्विसेबिलिटी बनाए रखते हुए रैक हाइट को ओवरहेड रूटिंग को समायोजित करना चाहिए।

डेंसिटी ग्रोथ के लिए प्लानिंग

AI इंफ्रास्ट्रक्चर डिप्लॉय करने वाले संगठनों को वर्तमान आवश्यकताओं के बजाय अपेक्षित वृद्धि के लिए रैक निवेश का आकार तय करना चाहिए।

GPU रोडमैप अवेयरनेस कैपेसिटी प्लानिंग को सूचित करती है। NVIDIA की H100 (700W) से Blackwell (1000W+) से Rubin (उच्चतर) की प्रगति डेंसिटी एस्केलेशन जारी रखती है। वर्तमान GPUs के लिए डिप्लॉय किए गए रैक को नेक्स्ट-जनरेशन पावर आवश्यकताओं को समायोजित करना चाहिए।

मॉड्यूलर पावर डिस्ट्रीब्यूशन इंक्रीमेंटल कैपेसिटी इंक्रीज को सक्षम बनाता है। PDU-पर-रैक बनाम बसवे डिस्ट्रीब्यूशन प्रभावित करता है कि कैपेसिटी कैसे स्केल होती है। रैक सिलेक्शन के साथ पावर आर्किटेक्चर की योजना बनाएं।

कूलिंग हेडरूम स्ट्रैंडेड कंप्यूट को रोकता है। एयर-कूल्ड इनिशियल डिप्लॉयमेंट के लिए भी लिक्विड कूलिंग कैपेबिलिटी वाले रैक डेंसिटी बढ़ने पर ट्रांज़िशन को सक्षम बनाते हैं। इंक्रीमेंटल कॉस्ट रैक रिप्लेसमेंट की तुलना में मामूली साबित होती है।

फ्लोर स्पेस एफिशिएंसी स्केल पर कंपाउंड होती है। हायर-डेंसिटी रैक समतुल्य कंप्यूट कैपेसिटी के लिए कुल रैक काउंट को कम करते हैं। कम रैक का मतलब कम फ्लोर स्पेस, छोटे केबल रन, और संभावित रूप से छोटी सुविधाएं हैं।

Introl की ग्लोबल इंजीनियरिंग टीमें 257 लोकेशन में AI इंस्टॉलेशन के लिए हाई-डेंसिटी रैक इंफ्रास्ट्रक्चर डिप्लॉय करती हैं, इनिशियल GPU सर्वर डिप्लॉयमेंट से लेकर 100,000-एक्सेलरेटर फैसिलिटीज तक। रैक सिलेक्शन सीधे फैसिलिटी एफिशिएंसी और भविष्य की GPU जनरेशन के लिए कैपेसिटी को प्रभावित करता है।

इंफ्रास्ट्रक्चर फाउंडेशन

रैक AI इंफ्रास्ट्रक्चर निवेश की भौतिक नींव का प्रतिनिधित्व करते हैं। $3.9 मिलियन के GPU सर्वर और नेटवर्किंग इक्विपमेंट को होस्ट करने वाले एनक्लोजर को उस निवेश को सुरक्षित रूप से सपोर्ट करना चाहिए जबकि पावर डिलीवरी और कूलिंग इंफ्रास्ट्रक्चर को सक्षम बनाना चाहिए जिसकी उन सिस्टम को आवश्यकता है।