快科技3月19日消息,AI新时代不但对算力、模型要求越来越高,也需要越来越强大的网络。为此,NVIDIA发布了专为大规模AI量身订制的全新网络交换机——X800系列。
据悉,NVIDIA Quantum-X800 InfiniBand网络、Spectrum-X800以太网络是全球首批高达800Gbps端到端吞吐量的网络平台,早期用户包括微软Azure、甲骨文云、Coreweave等等。
Quantum-X800平台可以说是AI专用基础设施极致性能的新标杆,包含Quantum Q3400交换机、ConnectX-8 SuperNIC网卡,二者互连的端到端吞吐量达到了业界领先的800Gbps(80万兆)。
同时,交换带宽容量比上一代提高5倍,网络计算能力则凭借NVIDIA SHARPv4技术提高9倍,达到了14.4TFlops,也就是每秒14.4万亿次计算。
Spectrum-X800则包含Spectrum SN5600交换机、BlueField-3 SuperNIC网卡,吞吐量同样高达800Gbps,可为多租户AIGC云和大型企业级用户提供各种至关重要的先进功能。
软件方面,NVIDIA 提供面向万亿参数级AI模型性能优化的网络加速通信库、软件开发套件、管理软件等全套软件方案。
其中,NVIDIA集合通信库(NCCL)可将GPU的并行计算任务扩展到Quantum-X800网络,并利用基于SHARPv4的强大网络计算能力、对FP8数据格式的支持,为大模型训练和AIGC提供超强的性能。
全球多家头部基础设施供应商和系统厂商将从2025年开始,提供基于Quantum-X800、Spectrum-X800的网络平台,包括Aivres、DDN、戴尔、Eviden、Hitachi Vantara(日立旗下)、慧与、联想、超微、VAST Data等等。