(资料图片)
Nvidia宣布了一个新网络平台的详细信息,该平台专门针对生成式AI工作负载而设计,有望实现闪电般的无损网络。
该公司的新Spectrum-X技术是使用Spectrum-4以太网交换机和BlueField-3DPU构建的,有望将性能和能效提高1.7倍。
该公司在一份新闻稿中表示:“端到端功能的交付减少了基于变压器的大规模生成人工智能模型的运行时间”,这反过来又使公司能够更快地运营和做出决策,从而节省成本潜在的。
该公司希望深入了解AI超级计算机现在可以在现实案例中利用的强大网络功能:
“NvidiaSpectrum-X实现了由单个交换机连接的256个200Gb/s端口的前所未有的规模,或两层叶脊拓扑中的16,000个端口,以支持AI云的增长和扩展,同时保持高水平的性能并最大限度地减少网络潜伏。”
在其他地方,Nvidia首席执行官黄仁勋在Computex博览会的开幕演讲中展示了Spectrum-4开关芯片,分享了对其设计的更多见解。他说,90x90毫米芯片上的千亿个晶体管耗电约500瓦。
Nvidia已经在其位于Israel1的以色列数据中心测试其Spectrum-X,这是一台运行基于NvidiaHGXH100八GPU平台的DellPowerEdgeXE9680服务器的超大规模生成AI超级计算机。