全新Azure AI基础设施：进一步扩展人工智能能力

微软Azure AI基础设施是微软扩展产品和服务的核心支柱，为开发人员提供在Azure平台上构建下一代AI驱动的应用程序所需的系统、工具和资源。微软在硬件和AI基础设施上的早期投资，正在帮助客户将AI的高效和创新变现为业务价值。借力AI，用户可以创造更丰富的用户体验，推动创新，提高业务生产力。

微软Azure AI基础设施能够支持全球可扩展，且未来微软仍将对其进行持续投资与扩展。现在，微软推出了ND H100 v5虚拟机系列，这款虚拟机配备了NVIDIA H100 Tensor Core图形处理单元（GPU）和低延迟网络，推动企业步入AI应用新时代。

前所未有的AI处理和规模

ND H100 v5虚拟机系列发布

微软全新发布Azure ND H100 v5虚拟机（VM）系列，现已在美国东部和美国中南部Azure区域提供。该系列配备了最新的NVIDIA H100 Tensor Core GPU和NVIDIA Quantum-2 InfiniBand网络。凭借在超级计算性能和规模方面的丰富经验，微软精心设计的ND H100 v5系列虚拟机，用于应对先进的AI工作负载带来的日益增加的复杂性。作为微软在AI领域深入和持续投资的一部分，微软正在利用一个AI优化的4K GPU集群，并将在明年将其扩展到数十万个全新的GPU。

ND H100 v5 VM虚拟机系列具有以下特性：

AI超级计算GPU：配备了八个NVIDIA H100 Tensor Core GPU。比起上一代虚拟机，该系列可让AI模型显著提速，为企业提供无与伦比的计算能力。

新一代计算机处理单元（CPU）：CPU性能对于AI的训练和推理至关重要，微软选择了第四代Intel Xeon Scalable处理器，确保虚拟机达到最佳的处理速度。

低延迟网络：采用NVIDIA Quantum-2 ConnectX-7 InfiniBand，每个GPU拥有400Gb/s、每个VM拥有3.2 Tb/s的跨节点带宽，确保GPU间的无缝性能，堪称全球顶级的超级计算机。

优化主机到GPU的性能：通过PCIe Gen5提供每个GPU 64GB/s的带宽，Azure在CPU和GPU之间具有显著的性能优势。

大规模的内存和内存带宽：DDR5内存是该系列虚拟机的核心，提供更高的数据传输速度和效率，使它们成为处理大规模数据集工作负载的理想选择。

该系列虚拟机已经证明了它们的性能优势，使用新的8位FP8浮点数据类型进行矩阵乘法操作时，速度提升了六倍，比前一代的FP16更快。ND H100 v5 VM帮助大型语言模型（如BLOOM 175B端到端模型）实现了最高两倍的推理速度提升，验证了它们进一步优化AI应用的潜力。

由Azure AI基础设施支持的人工智能，具有推动从制造到零售、从金融服务到医疗保健等各行各业发展的潜力。