全新Azure AI基础设施:进一步扩展人工智能能力

来源:Azure云科技
作者:Azure云科技
时间:2023-09-05
11544
微软Azure AI基础设施是微软扩展产品和服务的核心支柱,为开发人员提供在Azure平台上构建下一代AI驱动的应用程序所需的系统、工具和资源。

fdgdfd.jpg

微软Azure AI基础设施是微软扩展产品和服务的核心支柱,为开发人员提供在Azure平台上构建下一代AI驱动的应用程序所需的系统、工具和资源。微软在硬件和AI基础设施上的早期投资,正在帮助客户将AI的高效和创新变现为业务价值。借力AI,用户可以创造更丰富的用户体验,推动创新,提高业务生产力。

微软Azure AI基础设施能够支持全球可扩展,且未来微软仍将对其进行持续投资与扩展。现在,微软推出了ND H100 v5虚拟机系列,这款虚拟机配备了NVIDIA H100 Tensor Core图形处理单元(GPU)和低延迟网络,推动企业步入AI应用新时代。

前所未有的AI处理和规模

ND H100 v5虚拟机系列发布

微软全新发布Azure ND H100 v5虚拟机(VM)系列,现已在美国东部和美国中南部Azure区域提供。该系列配备了最新的NVIDIA H100 Tensor Core GPU和NVIDIA Quantum-2 InfiniBand网络。凭借在超级计算性能和规模方面的丰富经验,微软精心设计的ND H100 v5系列虚拟机,用于应对先进的AI工作负载带来的日益增加的复杂性。作为微软在AI领域深入和持续投资的一部分,微软正在利用一个AI优化的4K GPU集群,并将在明年将其扩展到数十万个全新的GPU。

ND H100 v5 VM虚拟机系列具有以下特性:

AI超级计算GPU:配备了八个NVIDIA H100 Tensor Core GPU。比起上一代虚拟机,该系列可让AI模型显著提速,为企业提供无与伦比的计算能力。

新一代计算机处理单元(CPU):CPU性能对于AI的训练和推理至关重要,微软选择了第四代Intel Xeon Scalable处理器,确保虚拟机达到最佳的处理速度。

低延迟网络:采用NVIDIA Quantum-2 ConnectX-7 InfiniBand,每个GPU拥有400Gb/s、每个VM拥有3.2 Tb/s的跨节点带宽,确保GPU间的无缝性能,堪称全球顶级的超级计算机。

优化主机到GPU的性能:通过PCIe Gen5提供每个GPU 64GB/s的带宽,Azure在CPU和GPU之间具有显著的性能优势。

大规模的内存和内存带宽:DDR5内存是该系列虚拟机的核心,提供更高的数据传输速度和效率,使它们成为处理大规模数据集工作负载的理想选择。

该系列虚拟机已经证明了它们的性能优势,使用新的8位FP8浮点数据类型进行矩阵乘法操作时,速度提升了六倍,比前一代的FP16更快。ND H100 v5 VM帮助大型语言模型(如BLOOM 175B端到端模型)实现了最高两倍的推理速度提升,验证了它们进一步优化AI应用的潜力。

由Azure AI基础设施支持的人工智能,具有推动从制造到零售、从金融服务到医疗保健等各行各业发展的潜力。

立即登录,阅读全文
原文链接:点击前往 >
文章来源:Azure云科技
版权说明:本文内容来自于Azure云科技,本站不拥有所有权,不承担相关法律责任。文章内容系作者个人观点,不代表快出海对观点赞同或支持。如有侵权,请联系管理员(zzx@kchuhai.com)删除!
优质服务商推荐
更多
扫码登录
打开扫一扫, 关注公众号后即可登录/注册
加载中
二维码已失效 请重试
刷新
账号登录/注册
个人VIP
小程序
快出海小程序
公众号
快出海公众号
商务合作
商务合作
投稿采访
投稿采访
出海管家
出海管家