NVIDIA B200 与 GB200 部署完整指南：功耗、散热与投资回报分析

更新于 2025 年 12 月 8 日

NVIDIA 的 Blackwell 架构分化为两条部署路径，迫使基础设施团队做出价值数百万美元的决策。B200 在相似功耗下提供 2.5 倍于 H100 的性能。¹ GB200 Grace-Blackwell Superchip 为大语言模型提供 30 倍的推理速度，但需要全新的基础设施设计。² 随着 Blackwell 系统开始量产出货，GB300 Blackwell Ultra 进入生产阶段，各组织面临关键的基础设施决策。

2025 年 12 月更新： GB200 NVL72 系统于 2024 年 12 月开始向主要云服务商（Microsoft、Oracle、AWS、Meta）发货，大规模生产将在 2025 年第二至第三季度加速推进。Supermicro 于 2025 年 2 月宣布 HGX B200 解决方案全面量产。与此同时，NVIDIA 在 GTC 2025 大会（3 月）上发布了 GB300 Blackwell Ultra，性能比 GB200 提升 50%——计划于 2025 年 9 月开始发货。B200 GPU 现已在 AWS 和 GCP 上提供，但由于 Blackwell 需求强劲，新订单面临 12 个月的等待期。

半导体行业密切关注这些部署，因为它们代表了 AI 加速的根本不同方法。纯 GPU 加速（B200）与 CPU-GPU 集成（GB200）在预计到 2030 年将消耗 2 万亿美元计算资源的工作负载上展开竞争。³ 早期采用者报告称，性能差异可达 10 倍，具体取决于工作负载特征，这使得选择过程对竞争定位至关重要。

黄仁勋称 Blackwell 是"驱动新工业革命的引擎"，但 NVIDIA 提供了两款对燃料需求截然不同的引擎。⁴ 基础设施团队必须在利用现有设计的渐进式升级与需要完全重新设计设施的革命性部署之间做出选择。这一决策不仅决定性能指标，还决定组织在 AI 驱动市场中的竞争能力。

架构差异导致部署复杂性

B200 采用传统 GPU 架构，集成 2080 亿个晶体管，基于台积电 4NP 工艺制造。⁵ 每颗芯片提供 20 petaflops 的 FP4 算力，约为 H100 性能的 2.5 倍，同时保持相同的 700W 热设计功耗（TDP）。⁶ 内存带宽通过 HBM3e 达到 8TB/s，解决了制约当前一代部署的内存瓶颈。熟悉 H100 部署的基础设施团队可以在最小设施改造的情况下过渡到 B200。

GB200 通过将 Grace CPU 和 Blackwell GPU 组合在单一基板上，彻底革新了计算范式。CPU 拥有 72 个 Arm Neoverse V2 核心，通过 NVLink-C2C 以 900GB/s 双向带宽连接到 GPU。⁷ 这消除了传统上将 CPU-GPU 通信限制在 64GB/s 的 PCIe 瓶颈。该集成支持新的编程模型，CPU 和 GPU 可以一致地共享内存，消除了在传统架构中消耗高达 30% 总系统功耗的数据移动。⁸

两种架构的功耗差异显著。单个 B200 保持现有基础设施支持的 700W 范围。GB200 Superchip 的 CPU-GPU 组合封装消耗 1,200W，而完整的 GB200 NVL72 系统每机架功耗达 120kW。⁹ 组织必须评估其电力基础设施是否能在 208V 下提供 600 安培电流，或是否需要完全升级到 480V 配电系统。

散热需求与功耗模式相对应。B200 部署可使用现有的额定 50kW 每机架的后门热交换器。GB200 配置需要直接到芯片的液冷，冷却液流量为每分钟 20 升，进水温度低于 30°C。¹⁰ 为空气冷却设计的设施在支持 GB200 部署时，每兆瓦面临 500-1000 万美元的改造成本。¹¹

内存架构决定工作负载适用性

B200 的 HBM3e 配置为每个 GPU 提供 192GB 高带宽内存，是 H100 容量的三倍。¹² 八 GPU 的 HGX B200 系统提供 1.5TB 的 GPU 内存，足以满足大多数当前大语言模型的需求。内存带宽达到每 GPU 8TB/s，实现更快的模型服务，与 H100 相比推理延迟降低 40%。¹³ 该架构擅长传统 GPU 工作负载：模型训练、批量推理和并行处理任务。

GB200 通过统一的 CPU-GPU 内存空间变革了内存经济学。Grace CPU 贡献高达 960GB 的 LPDDR5X 内存，两个处理器均可以 546GB/s 的速度访问。¹⁴ 结合 GPU 的 HBM3e，每个 Superchip 的总系统内存达到 1.1TB。超出 GPU 内存的模型可以溢出到 CPU 内存，而不会像传统 CPU-GPU 传输那样遭受 50 倍的性能惩罚。当 CPU 内存可以防止磁盘分页时，内存受限的工作负载性能提升可达 7 倍。¹⁵

工作负载分析揭示了清晰的部署模式。纯模型训练倾向于 B200 配置，因为每个晶体管都专注于矩阵乘法。没有 CPU 开销意味着 15% 更多的芯片面积用于 Tensor Core。¹⁶ 训练运行完成更快，每个 epoch 消耗的功率更少。Meta 的 Llama 3 训练模拟显示，B200 集群完成 4050 亿参数训练比同等 GB200 部署快 23%。¹⁷

推理工作负载呈现不同的情况。GB200 的 CPU 处理预处理、分词和结果格式化，而 GPU 处理神经网络。该架构消除了独立 CPU 和 GPU 服务器之间的数据移动，将总推理延迟降低 60%。¹⁸ OpenAI 报告称，对于 ChatGPT 规模的模型，GB200 部署处理的并发用户数是 B200 配置的 30 倍。¹⁹ CPU 的存在使得在纯 GPU 系统中不可能实现的复杂缓存策略成为可能。

网络拓扑影响集群设计

B200 保持 NVIDIA 既定的网络方法，每个 GPU 有 18 个 NVLink 连接，支持 900GB/s 的对分带宽。²⁰ 八 GPU 的 HGX B200 节点通过 400GbE 或 800GbE InfiniBand 连接，保持 HPC 架构师熟悉的网络层次结构。现有 InfiniBand 部署可通过交换机固件更新和光模块更换升级以支持 B200。这种渐进式路径最大限度地降低部署风险并加速投入生产。

GB200 NVL72 通过以每 GPU 1.8TB/s 的第五代 NVLink 连接 72 个 Blackwell GPU，彻底革新了集群架构。²¹ 整个系统作为单个逻辑 GPU 运行，具有 13 petaflops 的算力和 30TB 的一致性内存。²² 传统网络边界消失，NVLink 交换机取代 InfiniBand 用于机架内通信。该架构需要完全重新设计网络，但消除了限制分布式训练强扩展性的瓶颈。

线缆管理在 GB200 规模下变得至关重要。每个 NVL72 机架需要超过 2,000 根电源、网络和液冷连接线缆。²³ NVIDIA 的参考设计指定了精确的线缆长度和布线路径，以在 1.8TB/s 速度下保持信号完整性。偏离规定的弯曲半径会导致位错误，触发持续重传，有效带宽降低高达 40%。²⁴ Introl 的部署团队将 40% 的安装时间用于线缆管理，使用增强现实系统验证每个连接是否符合规格。

网络成本分析对增量部署有利于 B200。组织可以在不更换网络基础设施的情况下向现有集群添加 B200 节点。1,000 GPU 的 B200 部署需要 1500-2000 万美元的网络设备。²⁵ 同等的 GB200 NVL72 系统需要 3000-4000 万美元用于 NVLink 交换机和光收发器。²⁶ 溢价通过卓越的扩展效率得到回报，但仅适用于充分利用整个系统的工作负载。

电力基础设施决定可行性

B200 部署利用针对每机架 35-50kW 优化的现有电力设计。标准 208V 三相电路通过现有配电单元（PDU）提供足够的电流。数据中心每兆瓦分配 6-8 个机架，将电源使用效率（PUE）比率保持在 1.3 以下。²⁷ 拥有 H100 基础设施的设施可通过简单的硬件更换支持 B200，无需电气升级。

GB200 电力需求打破了传统假设。NVL72 的 120kW 机架需求超过了大多数设施的每机架断路器额定值。电力输送需要 480V 三相 300 安培电路，这种基础设施通常为工业机械保留。²⁸ 变压器、开关柜和配电盘需要完全更换。升级成本在考虑公用事业容量限制之前就已达到每兆瓦 200-300 万美元。²⁹

GB200 部署需要与公用事业公司进行关键协调。一个适度的 100 机架 GB200 安装持续消耗 12MW，相当于 10,000 户家庭用电。³⁰ 电力公司需要 18-24 个月的提前期进行输电升级。新加坡的数据中心禁令部分源于 GB200 电力需求将消耗国家发电量的 5%。³¹ Introl 在我们的亚太区覆盖范围内与公用事业公司合作，在基础设施设计开始之前确保电力分配。

备用电源系统面临前所未有的挑战。传统的按 15 分钟运行时间设计的不间断电源（UPS）在每机架 120kW 时变得不切实际。电池室将占用比其保护的计算基础设施更多的空间。现代 GB200 部署使用具有 30 秒电池桥接到发电机启动的并网逆变器，接受更高风险以换取显著的空间和成本节省。³² 这种方法需要能够接受 100% 负载阶跃的发电机，这是五年前不存在的技术。

散热架构定义部署选项

B200 散热遵循既定模式，对不同方法具有灵活性。空气冷却对于每机架 35kW 以下的低密度部署仍然可行。后门热交换器处理 50kW 配置，同时将冷通道温度保持在 25°C 以下。³³ 对于愿意管理冷却液分配的组织，直接液冷到冷板可实现 70kW 密度。这种灵活性允许随着密度需求增加逐步进行基础设施演进。

GB200 消除了散热灵活性，转而追求最大性能。NVIDIA 的参考设计要求直接液冷，并有严格规格：25°C 进水温度、每分钟 20 升流量、冷板上温差小于 10°C。³⁴ 偏离会触发热节流，性能降低高达 50%。散热系统变得与计算硬件本身同样关键。

冷却液选择影响长期运营。B200 部署通常使用带有缓蚀剂的设施用水，利用现有建筑系统。GB200 需要工程流体，比热容高于 4.0 kJ/kg·K，电阻率超过 1 MΩ·cm。³⁵ 这些流体每加仑成本 200-300 美元，需要每季度测试以保持性能。³⁶ 单个泄漏接头造成的污染可能需要完全冲洗和重新加注系统，成本高达 50 万美元。

热量排放决定地理可行性。B200 适中的热密度在大多数气候下都可以使用传统冷却塔。GB200 的极端密度需要接近理论极限的先进热量排放。炎热气候的设施需要带有蒸发辅助的混合冷却塔，每个机架每分钟消耗 2-3 加仑水。³⁷ 当水成本超过电力成本时，沙漠部署在经济上变得不可行。北欧位置通过自然冷却获得竞争优势，将 GB200 运营成本降低 30%。³⁸

总拥有成本揭示令人惊讶的经济性

资本支出比较明显有利于 B200。GPU

[内容因翻译而截断]