快出海  > 出海资讯  >  CXL内存池助力Microsoft Azure节省数亿美元DRAM硬件开销

CXL内存池助力Microsoft Azure节省数亿美元DRAM硬件开销

来源:cnBeta.COM
作者:raymon725
时间:2022-07-14
微软、Google、亚马逊等云计算巨头,都在以各种“实例”(Instance)和按需付费的方式,向广大客户提供其云端硬件资源。不过通常情况下,这些实例都会受到特定的CPU和内存配置的约束——意味着客户智能从预设的几个选项中进行挑选、而无法进一步细分配置。

微软、Google、亚马逊等云计算巨头,都在以各种“实例”(Instance)和按需付费的方式,向广大客户提供其云端硬件资源。不过通常情况下,这些实例都会受到特定的CPU和内存配置的约束——意味着客户智能从预设的几个选项中进行挑选、而无法进一步细分配置。

3d4304644800471.jpg

(图via SemiAnalisis)

比如每多一个虚拟的CPU核心,就会往上添加2GB的内存。且在实例开启的过程中,预先分配的CPU与内存资源也被单个客户锁定,而无法在全局环境中动态调节。

长期以来,超大规模企业一直在努力思考如何缓和这方面的资源浪费——毕竟许多示例没有充分利用其DRAM,导致整个数据中心的使用效率低下。

以Microsoft Azure为例,其测量结果表明——近半虚拟机从未使用超过50%的预分配内存资源,这样的浪费是相当惊人的。

随着CPU资源的触顶,剩余的内存资源无法物尽其用,微软将这种状态称作内存搁浅(Memory Stranding)。

更让人感到震惊的是,多达25%的DRAM在任何特定时刻都可能被搁置。

ab8a8e770f9d3d6.jpg

为了大幅改善这种情况,Microsoft Azure想到了所谓的“内存池”(Memory Pooling)概念。

旨在允许CPU访问其所需的尽可能多的内存、而不占用或搁置不需要那么多DRAM资源的虚拟机。

好消息是,全新的CXL缓存一致性协议,已经得到了各大主流硬件提供商的产品支持。

通过采用CXL硬件,微软等数据中心运营商有望大幅降低其DRAM成本。

假如最终得到9~10%的整体DRAM优化,大型云服务器提供商可轻松介绍数亿美元的内存硬件开销。

此外微软估计,使用CXL和内存池技术,将使数据中心的服务器成本降低4-5%——毕竟仅DRAM组件就占比超过了50%。

efc3710369cd510.jpg

性能方面,Microsoft Azure团队对一些使用本地DRAM/内存池的配置进行了基准测试,不过性能损失/最佳效果还是取决于具体的应用程序。

一方面,Memory Pooling会导致额外的67-87 ns延迟,导致某些应用程序的速度变得更慢。

另一方面,20%左右的应用程序并未受到内存池的性能拖累,但有23%的应用程序性能损失不到5%。

此外25%的应用程序减速超20%,12%的应用程序减速超30%。

需要指出的是,这只是微软在首批CXL硬件上展开的早期测试。展望下一代硬件和新的CXL协议规范,Memory Pooling还有望带来更好的体验。

↟点击阅读全文
版权说明

本文内容来自于cnBeta.COM,本站不拥有所有权,不承担相关法律责任。文章内容系作者个人观点,不代表快出海对观点赞同或支持。如有侵权,请联系管理员(zzx@kchuhai.com)删除!

相关文章
Google发布构建于BigQuery的云计算日志分析服务
Google发布构建于BigQuery的云计算日志分析服务
Google更新日志服务Cloud Logging,提供用户基于云计算数据仓库BigQuery的日志分析服务,通过BigQuery的支持,用户能够从系统日志记录中,获得更深入的分析结果。
十轮网
2天前
节省成本,亚马逊拟于美国关闭数个客服中心
节省成本,亚马逊拟于美国关闭数个客服中心
为了节省办公成本,亚马逊(Amazon)目前正计划于美国关闭数个客服中心,并鼓励客服人员选择居家办公;而亚马逊也认为,提供远程工作机会有助于在流功率高的行业招聘员工。
十轮网
2天前
Amazon公布床边睡眠监测设备
Amazon公布床边睡眠监测设备
在周三的产品发布大会上,Amazon公布了集成环境传感、机器学习及雷达侦测功能的床边睡眠测量设备Halo Rise。
十轮网
2天前
Google搜索结果添加讨论区及论坛内容
Google搜索结果添加讨论区及论坛内容
Google于9月28日宣布,即日起将于英文搜索结果中添加来自讨论区与论坛的内容,以协助用户找到更多具备同样经验的人的建议,此外,明年起Google News除了呈现用户默认语言的新闻内容之外,若为国际新闻,也会出现来自当地报道的翻译标题,打破语言的藩篱。
十轮网
2天前
【第八期 数字化破万卷】Cloudflare大中华区总经理兼销售总监蔡旭辉:创新驱动  技术赋能 Cloudflare赋能中国企业加速数字化转型
【第八期 数字化破万卷】Cloudflare大中华区总经理兼销售总监蔡旭辉:创新驱动 技术赋能 Cloudflare赋能中国企业加速数字化转型
9月29日,第八期数字化“破万卷”,跟随Cloudflare大中华区总经理兼销售总监蔡旭辉的脚步,共同聆听Cloudflare赋能中国企业加速数字化转型的创新实践。
Cloudflare
2天前
扫描关注获取更多 出海资讯 的相关信息
扫码登录
打开扫一扫, 关注公众号后查看更多
加载中
二维码已失效 请重试
刷新
账号登录/注册
小程序
公众号
商务合作
投稿采访
出海管家
活动推荐
报名中 亚马逊云科技中国峰会