Nvidia 推出第一代 Blackwell B200 系列处理器遇到了障碍 ,然而,据 SemiAnalysis报道,Nvidia 的第二代 Blackwell B300 系列处理器 似乎指日可待。它们不仅具有更大的内存容量,而且只需 200W 的额外 TDP 即可提供 50% 的性能提升。
Nvidia 的 B300 系列处理器采用了显着调整的设计,仍将采用台积电的 4NP 制造工艺(针对 Nvidia 调整的增强性能的 4 纳米级节点),但该报告声称它们将提供比 B200 高 50% 的计算性能系列处理器。这种性能提升是以 1,400W TDP 为代价的,仅比 GB200 高 200W。 SemiAnalysis 声称,B300 将在 B200 推出后大约半年上市。
Nvidia B300 系列的第二个重大改进是使用 12-Hi HBM3E 内存堆栈,它将提供 288 GB 内存和 8 TB/s 带宽。增强的内存容量和更高的计算吞吐量将实现更快的训练和推理,并将推理成本降低三倍,因为 B300 将处理更大的批量大小并支持扩展的序列长度,同时解决用户交互中的延迟问题。
除了更高的计算性能和更多的内存之外,Nvidia 的第二代 Blackwell 机器还可能采用该公司的 800G ConnectX-8 NIC。该 NIC 的带宽是当前 400G ConnectX-7 的两倍,并且具有 48 个 PCIe 通道(而其前身为 32 个通道)。这将为新服务器提供显着的横向扩展带宽改进,这对于大型集群来说是一个胜利。
B300 和 GB300 的另一个重大改进是,与 B200 和 GB200 相比,据报道 Nvidia 将重新设计整个供应链。该公司将不再尝试出售整个参考主板或整个服务器舱。相反,Nvidia 将仅销售配备 SXM Puck 模块、Grace CPU 和 Axiado 主机管理控制器 (HMC) 的 B300。因此,更多的公司将被允许参与 Blackwell 供应链,预计这将使基于 Blackwell 的机器更容易使用。