NVIDIA वेरा रुबिन प्लेटफ़ॉर्म: 8 एक्साफ्लॉप्स प्रदर्शन और इंफ्रास्ट्रक्चर आवश्यकताएं

11 दिसंबर, 2025 को अपडेट किया गया

दिसंबर 2025 अपडेट: वेरा रुबिन (2026) 8 EXAFLOPS प्रदान करेगा—पूरी TOP500 सूची का संयुक्त प्रदर्शन। TSMC N2 पर ~500B ट्रांजिस्टर, 13TB/s बैंडविड्थ के साथ HBM4, 5TB/s द्विदिशात्मक NVLink 6। 600kW प्रति रैक, 2,000W प्रति चिप TDP। रुबिन Ultra (H2 2027) HBM4e के साथ NVL576 में 365TB मेमोरी तक पहुंचेगा। 48V डायरेक्ट-टू-चिप पावर डिलीवरी आवश्यक है।

आठ एक्साफ्लॉप्स कम्प्यूटेशनल पावर तब तक अमूर्त लगती है जब तक आपको यह एहसास न हो कि यह पृथ्वी की TOP500 सूची के हर सुपरकंप्यूटर के संयुक्त प्रदर्शन के बराबर है, जो एक सिंगल डेटा सेंटर रो में फिट होने वाले इंफ्रास्ट्रक्चर में संकुचित है।¹ NVIDIA का वेरा रुबिन प्लेटफ़ॉर्म, जो 2026 में तैनाती के लिए निर्धारित है, क्रांतिकारी आर्किटेक्चरल प्रगति के माध्यम से ठीक यही क्षमता प्रदान करने का वादा करता है जो आज के सबसे शक्तिशाली सिस्टम को पुराना बना देती है। आज इंफ्रास्ट्रक्चर की योजना बनाने वाले संगठनों को ऐसे सिस्टम के लिए तैयार रहना होगा जो प्रति रैक 600 किलोवाट तक बिजली की खपत करेंगे और वाणिज्यिक सीमाओं को चुनौती देने वाली कूलिंग तकनीकों की आवश्यकता होगी।

प्लेटफ़ॉर्म का नाम खगोलविद् वेरा रुबिन के नाम पर रखा गया है, जिनके डार्क मैटर अवलोकनों ने कॉस्मोलॉजी में क्रांति ला दी—यह उस आर्किटेक्चर के लिए एक उचित श्रद्धांजलि है जो AI क्षमताओं में क्रांति लाने का वादा करता है।² जेन्सेन हुआंग ने GTC 2025 में विनिर्देशों का खुलासा किया: TSMC की 3-नैनोमीटर प्रक्रिया (N3P) पर निर्मित चिप्स, 13 टेराबाइट प्रति सेकंड तक बैंडविड्थ प्रदान करने वाली HBM4 मेमोरी, और मल्टी-टेराबाइट प्रति सेकंड GPU-टू-GPU संचार का समर्थन करने वाली छठी पीढ़ी का NVLink।³ प्रत्येक संख्या वर्तमान क्षमताओं के दोगुने या तिगुने का प्रतिनिधित्व करती है, जो डेटा सेंटर डिज़ाइन के बारे में मौलिक धारणाओं को चुनौती देने वाले इंफ्रास्ट्रक्चर विकास की मांग करती है।

अंतिम विनिर्देशों के बारे में अनिश्चितता के बावजूद प्रमुख क्लाउड प्रदाता पहले से ही वेरा रुबिन तैनाती के लिए क्षमता आरक्षित कर रहे हैं। Microsoft ने अगली पीढ़ी के प्लेटफ़ॉर्म का समर्थन करने वाले इंफ्रास्ट्रक्चर के लिए $15 बिलियन का वचन दिया है, जिसमें 500kW रैक घनत्व के लिए डिज़ाइन की गई सुविधाएं हैं।⁴ Amazon Web Services विशेष रूप से अत्यधिक-घनत्व कंप्यूटिंग के लिए नए क्षेत्र बना रहा है, जिसमें पावर सबस्टेशन एकल सुविधाओं को 500 मेगावाट प्रदान करते हैं।⁵ इंफ्रास्ट्रक्चर की होड़ एक कठोर वास्तविकता को प्रकट करती है: वेरा रुबिन की आवश्यकताओं के लिए तैयार नहीं संगठन खुद को उन्नत AI क्षमताओं से पूरी तरह बाहर पाएंगे।

आर्किटेक्चरल छलांग कंप्यूटिंग पैमाने को पुनर्परिभाषित करती है

वेरा रुबिन का आर्किटेक्चर क्रांतिकारी पुनर्डिज़ाइन के लिए क्रमिक सुधार को छोड़ देता है। प्रत्येक चिप में अनुमानित 500 बिलियन ट्रांजिस्टर हैं, जो TSMC की N2 प्रक्रिया द्वारा सक्षम अभूतपूर्व घनत्व प्राप्त करते हुए Blackwell के 208 बिलियन से लगभग तिगुना है।⁶ ट्रांजिस्टर बजट प्रति चिप 20,000 टेंसर कोर को सक्षम बनाता है, जिनमें से प्रत्येक INT4 से FP64 तक मिश्रित-सटीकता संचालन में सक्षम है। डिज़ाइन दर्शन सामान्य-उद्देश्य त्वरण से AI-विशिष्ट अनुकूलन में बदल जाता है, जिसमें 80% डाई क्षेत्र मैट्रिक्स गुणन इकाइयों को समर्पित है।

HBM4 एकीकरण के माध्यम से मेमोरी आर्किटेक्चर प्रति चिप 13TB/s तक बैंडविड्थ प्रदान करते हुए हर मिसाल को तोड़ता है। Samsung का HBM4 रोडमैप उच्च गति पर चलने वाले 2048-बिट इंटरफेस वाले स्टैक दिखाता है, जिसमें पूर्ण NVL144 प्लेटफ़ॉर्म 75TB तेज़ मेमोरी प्राप्त करता है।⁷ प्रत्येक Rubin GPU 288GB HBM4 मेमोरी क्षमता प्रदान करता है, जो सिंगल-GPU मेमोरी से 400-बिलियन पैरामीटर मॉडल सर्व करने के लिए पर्याप्त है। मेमोरी सबसिस्टम अकेले पर्याप्त बिजली की खपत करता है, जिसके लिए केवल DRAM थर्मल प्रबंधन के लिए उन्नत कूलिंग की आवश्यकता होती है। रुबिन Ultra, जो H2 2027 में आ रहा है, NVL576 कॉन्फ़िगरेशन में 365TB तक क्षमता के साथ HBM4e मेमोरी का उपयोग करेगा।

इंटरकनेक्ट विकास अभूतपूर्व पैमाने पर सच्ची वितरित कंप्यूटिंग को सक्षम बनाता है। छठी पीढ़ी का NVLink 25Gbps पर 200 लेन का समर्थन करता है, GPU के बीच 5TB/s द्विदिशात्मक बैंडविड्थ प्रदान करता है।⁸ बैंडविड्थ 256 GPU को 500 नैनोसेकंड से कम समान मेमोरी एक्सेस लेटेंसी के साथ एक सुसंगत कम्प्यूटेशनल इकाई के रूप में कार्य करने की अनुमति देती है। पारंपरिक वितरित कंप्यूटिंग दंड गायब हो जाते हैं क्योंकि सिस्टम क्लस्टर की तुलना में एक विशाल प्रोसेसर की तरह अधिक संचालित होता है।

चिपलेट आर्किटेक्चर विनिर्माण व्यवहार्यता की कुंजी के रूप में उभरता है। 1,000mm² के करीब पहुंचने वाली मोनोलिथिक डाई विनाशकारी यील्ड चुनौतियों का सामना करती हैं, जिसमें दोष दरें उत्पादन को आर्थिक रूप से असंभव बनाती हैं। वेरा रुबिन संभवतः N2 पर निर्मित कम्प्यूट डाई और परिपक्व N4 प्रक्रियाओं पर IO डाई के साथ 3D चिपलेट स्टैकिंग का उपयोग करता है।⁹ TSMC की SoIC तकनीक का उपयोग करके उन्नत पैकेजिंग मल्टी-टेराबिट गति पर सिग्नल इंटीग्रिटी बनाए रखते हुए चिपलेट के बीच प्रति वर्ग मिलीमीटर 50,000 कनेक्शन सक्षम करती है।¹⁰

2,000-वाट चिप खपत पर पावर डिलीवरी आर्किटेक्चर को पूर्ण पुनर्कल्पना की आवश्यकता है। पारंपरिक 12V पावर रूपांतरण ऐसे करंट स्तरों पर अस्वीकार्य नुकसान उत्पन्न करता है। वेरा रुबिन ऑन-पैकेज वोल्टेज रेगुलेशन के साथ 48V डायरेक्ट-टू-चिप पावर डिलीवरी लागू करता है।¹¹ Vicor का फैक्टराइज़्ड पावर आर्किटेक्चर 2,000W लोड पर 98% दक्षता प्रदर्शित करता है, लेकिन पावर डिलीवरी कंपोनेंट्स के लिए ही लिक्विड कूलिंग की आवश्यकता होती है।¹² पावर सिस्टम उतना ही जटिल हो जाता है जितना कि वह कम्प्यूट आर्किटेक्चर जिसका वह समर्थन करता है।

इंफ्रास्ट्रक्चर मांगें वर्तमान क्षमताओं से अधिक हैं

वेरा रुबिन तैनाती के लिए पावर आवश्यकताएं पारंपरिक डेटा सेंटर डिज़ाइन धारणाओं को तोड़ती हैं। एक सिंगल रैक लगातार 600kW तक खींच सकता है, जो लगभग 500 अमेरिकी घरों के बराबर है।¹³ पावर घनत्व 700kW प्रति वर्ग मीटर से अधिक तक पहुंचता है, जो वर्तमान उच्च-घनत्व तैनाती से 10 गुना अधिक है। सुविधाओं को सिंगल सुविधाओं को 4,160V वितरण प्रदान करने वाले ऑन-साइट सबस्टेशन के साथ समर्पित 13.8kV मीडियम-वोल्टेज फीड की आवश्यकता होती है। 100-रैक तैनाती के लिए इलेक्ट्रिकल इंफ्रास्ट्रक्चर कम्प्यूट हार्डवेयर पर विचार करने से पहले $100 मिलियन खर्च होता है।

प्रति रैक 500kW कूलिंग वर्तमान लिक्विड कूलिंग क्षमताओं से परे अज्ञात क्षेत्र में धकेलती है। चिप स्तर पर हीट फ्लक्स 500W/cm² से अधिक है, जो रॉकेट इंजन दहन कक्षों के थर्मल घनत्व के करीब पहुंचता है।¹⁴ टू-फेज लिक्विड कूलिंग अनिवार्य हो जाती है, जो सटीक नियंत्रित तापमान पर उबलने वाले इंजीनियर्ड तरल पदार्थों का उपयोग करती है। 3M के अगली पीढ़ी के Novec तरल पदार्थ प्रयोगशाला प्रदर्शनों में 1,000W/cm² संभालते हैं लेकिन प्रोडक्शन डेटा सेंटरों में बनाए रखने में कठिन प्राचीन पर्यावरणीय स्थितियों की आवश्यकता होती है।¹⁵

डायरेक्ट-टू-चिप कूलिंग मानव बाल से छोटी विशेषताओं वाले माइक्रो-चैनल आर्किटेक्चर में विकसित होती है। IBM का शोध दिखाता है कि 50 माइक्रोमीटर चौड़े सिलिकॉन माइक्रो-चैनल 5°C तापमान वृद्धि के साथ 1kW/cm² हटाते हैं।¹⁶ इन कूलिंग समाधानों के निर्माण के लिए सेमीकंडक्टर फैब्रिकेशन तकनीकों की आवश्यकता होती है, जिससे कूलर उन चिप्स जितने परिष्कृत हो जाते हैं जिन्हें वे ठंडा करते हैं। प्रत्येक कोल्ड प्लेट की कीमत $10,000-15,000 है और प्रदर्शन को खराब करने वाले खनिज निर्माण को रोकने के लिए त्रैमासिक रखरखाव की आवश्यकता होती है।

सुविधा डिज़ाइन 2,000kg/m² लोड का समर्थन करने वाले संरचनात्मक स्लैब के लिए पारंपरिक रेज़्ड फ्लोर को छोड़ देता है। लिक्विड वितरण के लिए प्रत्येक रो को 1,000 गैलन प्रति मिनट प्रदान करने वाले 12 इंच व्यास के पाइप की आवश्यकता होती है। लीक कंटेनमेंट सिस्टम को विनाशकारी विफलताओं को संभालना चाहिए जो सेकंडों में 5,000 गैलन कूलेंट छोड़ सकती हैं। सेकेंडरी कंटेनमेंट सुविधा निर्माण लागत को दोगुना कर देता है लेकिन पर्यावरणीय आपदाओं को रोकता है जो नियामक शटडाउन को ट्रिगर करेंगी।

नेटवर्क इंफ्रास्ट्रक्चर कम्प्यूट पावर के अनुपात में स्केल करता है। प्रत्येक वेरा रुबिन सिस्टम को बाहरी कनेक्टिविटी के लिए 16 पोर्ट 800GbE की आवश्यकता होती है, जो प्रति सिस्टम कुल 12.8Tb/s है।¹⁷ ऑप्टिकल स्विचिंग अनिवार्य हो जाती है क्योंकि कॉपर केबल डेटा सेंटर दूरियों पर आवश्यक बैंडविड्थ का समर्थन नहीं कर सकते। Lightmatter जैसी कंपनियों के फोटोनिक स्विच स्विचिंग फैब्रिक के लिए शून्य बिजली खपत के साथ नैनोसेकंड स्विचिंग समय प्रदान करते हैं।¹⁸ मध्यम तैनाती के लिए अकेले नेटवर्क $50 मिलियन निवेश का प्रतिनिधित्व करता है।

सॉफ्टवेयर इकोसिस्टम को मौलिक विकास की आवश्यकता है

डिस्क्रीट GPU के लिए डिज़ाइन किए गए प्रोग्रामिंग मॉडल वेरा रुबिन के एकीकृत आर्किटेक्चर पर विनाशकारी रूप से विफल होते हैं। पारंपरिक फ्रेमवर्क स्वतंत्र मेमोरी स्पेस और स्पष्ट सिंक्रोनाइज़ेशन मानते हुए उपकरणों में काम को विभाजित करते हैं। वेरा रुबिन के सुसंगत 256-GPU सिस्टम 36TB तक फैली एकीकृत वर्चुअल मेमोरी के साथ सिंगल लॉजिकल डिवाइस के रूप में संचालित होते हैं। डेवलपर्स को प्लेटफ़ॉर्म को वितरित क्लस्टर के बजाय एक विशाल NUMA सिस्टम के रूप में मानते हुए समानांतरीकरण रणनीतियों पर पुनर्विचार करना होगा।

NVIDIA का CUDA 15.0 रोडमैप एक्सास्केल कंप्यूटिंग का समर्थन करने वाले मौलिक API परिवर्तन दिखाता है। Cooperative Groups पूरे सिस्टम में समन्वय करने वाले लाखों थ्रेड्स का समर्थन करने के लिए विस्तारित होते हैं।¹⁹ Unified Memory कम्प्यूट और स्टोरेज टियर्स के बीच स्वचालित पेज माइग्रेशन के साथ पेटाबाइट-स्केल एलोकेशन को संभालने के लिए विकसित होती है। प्रोग्रामिंग मॉडल हार्डवेयर जटिलता को अमूर्त करता है लेकिन इष्टतम प्रदर्शन प्राप्त करने के लिए मेमोरी पदानुक्रम की गहरी समझ की आवश्यकता होती है।

प्लेटफ़ॉर्म क्षमताओं को निकालने के लिए कंपाइलर तकनीक महत्वपूर्ण हो जाती है। ग्राफ-आधारित इंटरमीडिएट रिप्रेजेंटेशन एप्लिकेशन संरचना को कैप्चर करते हैं, पूरे सिस्टम में आक्रामक अनुकूलन को सक्षम करते हैं। MLIR (Multi-Level Intermediate Representation) अगली पीढ़ी के कंपाइलरों की नींव के रूप में उभरता है जो उच्च-स्तरीय गणितीय संचालन से लेकर व्यक्तिगत टेंसर कोर निर्देशों तक अनुकूलित करते हैं।²⁰ बड़े मॉडलों के लिए संकलन समय घंटों तक बढ़ जाता है, लेकिन उत्पन्न कोड सैद्धांतिक पीक प्रदर्शन का 90% प्राप्त करता है।

कंटेनर ऑर्केस्ट्रेशन प्लेटफ़ॉर्म को वेरा रुबिन तैनाती का प्रबंधन करने के लिए आर्किटेक्चरल ओवरहाल की आवश्यकता होती है। Kubernetes एब्स्ट्रैक्शन तब टूट जाते हैं जब सिंगल पॉड्स को 256 GPU और 500kW पावर बजट की आवश्यकता होती है। नए ऑर्केस्ट्रेटर उभरते हैं जो इंफ्रास्ट्रक्चर बाधाओं को समझते हैं: पावर उपलब्धता, कूलिंग क्षमता, नेटवर्क टोपोलॉजी, और फेलियर डोमेन। शेड्यूलिंग निर्णय पारंपरिक कम्प्यूट उपलब्धता के साथ-साथ थर्मल स्थिति और पावर ग्रिड स्थितियों पर विचार करते हैं।

डिबगिंग और प्रोफाइलिंग टूल भारी जटिलता का सामना करते हैं। एक सिंगल वेरा रुबिन सिस्टम 100GB/s परफॉर्मेंस टेलीमेट्री उत्पन्न करता है, जिसके लिए केवल मॉनिटरिंग के लिए समर्पित इंफ्रास्ट्रक्चर की आवश्यकता होती है।²¹ पारंपरिक प्रोफाइलर ऐसे सिस्टम को संभाल नहीं सकते जहां व्यक्तिगत कर्नेल लॉन्च में अरबों थ्रेड्स शामिल होते हैं। टेलीमेट्री की बाढ़ में परफॉर्मेंस बॉटलनेक और अनुकूलन अवसरों की पहचान करने के लिए AI-संचालित विश्लेषण आवश्यक हो जाता है। डेवलपर्स मशीन लर्निंग सिस्टम व्यवहार को समझने के लिए मशीन लर्निंग पर निर्भर करते हैं।

आर्थिक मॉडल निवेश तर्क को चुनौती देते हैं

वेरा रुबिन की अनुमानित $10 मिलियन प्रति सिस्टम कीमत खगोलीय लगती है जब तक कि प्रदान की गई क्षमता से तुलना न की जाए। आठ एक्साफ्लॉप्स कच्चे कम्प्यूट में 1,000 NVIDIA H100 GPU के बराबर है लेकिन आर्किटेक्चरल दक्षता के माध्यम से 10x बेहतर प्रभावी प्रदर्शन प्रदान करता है।²² वर्तमान तकनीक के साथ समकक्ष क्षमता बनाने में $40 मिलियन का खर्च आएगा और 5MW बिजली की खपत होगी। 4x कैपिटल दक्षता और 10x पावर दक्षता स्वामित्व की कुल लागत गणनाओं को बदल देती है।

परिचालन लागत सिस्टम जीवनकाल में पूंजीगत व्यय को बौना कर देती है। 500kW पर बिजली की खपत औद्योगिक दरों पर सालाना $400,000 खर्च होती है। कूलिंग $100,000 और जोड़ती है। सुविधाएं, रखरखाव और संचालन सालाना $500,000 का योगदान करते हैं। प्रत्येक वेरा रुबिन सिस्टम को संचालित करने के लिए सालाना $1 मिलियन का खर्च आता है, जिससे आर्थिक व्यवहार्यता के लिए उपयोग महत्वपूर्ण हो जाता है। 80% उपयोग प्राप्त करने वाले संगठन अधिक गणना में लागत को परिशोधित करते हैं, प्रति-ऑपरेशन खर्च को 60% तक कम करते हैं।

मूल्यह्रास रणनीतियों को पुनर्विचार की आवश्यकता है क्योंकि प्रौद्योगिकी विकास तेज होता है। पारंपरिक तीन-वर्षीय मूल्यह्रास 33% वार्षिक मूल्य गिरावट मानता है, लेकिन वेरा रुबिन सिस्टम सॉफ्टवेयर अनुकूलन के माध्यम से लंबे समय तक मूल्य बनाए रख सकते हैं। 2017 के शुरुआती Volta GPU विशिष्ट कार्यभार के लिए सात साल बाद भी आर्थिक रूप से व्यवहार्य बने हुए हैं।²³ वेरा रुबिन की विशाल क्षमता हेडरूम पांच साल के उपयोगी जीवन का सुझाव देती है, जो निवेश रिटर्न में काफी सुधार करती है।

राजस्व मॉडल को इंफ्रास्ट्रक्चर निवेश का समर्थन करने के लिए विकसित होना चाहिए। वेरा रुबिन इंफ्रास्ट्रक्चर पर GPT-5 श्रेणी के मॉडल को प्रशिक्षित करने में $100 मिलियन का खर्च आ सकता है लेकिन महीनों के बजाय हफ्तों में पूरा हो जाएगा।²⁴ गति प्रीमियम उन संगठनों के लिए लागत को उचित ठहराता है जहां बाजार में समय सफलता निर्धारित करता है। वेरा रुबिन पर प्रशिक्षित मॉडलों के लिए API मूल्य निर्धारण को पुराने हार्डवेयर पर प्रशिक्षित छोटे मॉडलों के साथ प्रतिस्पिर्धी रहते हुए इंफ्रास्ट्रक्चर लागत को प्रतिबिंबित करना चाहिए।

वित्तपोषण तंत्र इंफ्रास्ट्रक्चर पैमाने के अनुकूल होते हैं। पारंपरिक उपकरण लीजिंग तब विफल हो जाती है जब व्यक्तिगत सिस्टम की लागत अनिश्चित अवशिष्ट मूल्य के साथ $10 मिलियन होती है। उपकरण वित्तपोषण, पाव को संयोजित करने वाले नए मॉडल उभरते हैं

[अनुवाद के लिए सामग्री छोटी की गई]