现代应用快速海外拓展
快出海  > 阿里云  >  阿里云:新突破!存算一体芯片,来了

阿里云:新突破!存算一体芯片,来了

来源:阿里云
作者:阿里云
时间:2021-12-03
这是全球首款基于DRAM的3D键合堆叠存算一体芯片。它可突破冯·诺依曼架构的性能瓶颈,满足人工智能等场景对高带宽、高容量内存和极致算力的需求。在特定AI场景中,该芯片性能提升10倍以上,效能比提升高达300倍。

分享一个好消息——达摩院成功研发存算一体芯片!

这是全球首款基于DRAM的3D键合堆叠存算一体芯片。它可突破冯·诺依曼架构的性能瓶颈,满足人工智能等场景对高带宽、高容量内存和极致算力的需求。在特定AI场景中,该芯片性能提升10倍以上,效能比提升高达300倍。

 01为什么要研发存算一体芯片?

随着人工智能应用场景的爆发,现有的计算机系统架构的短板逐渐显露,例如功耗墙、性能墙、内存墙等问题。

其主要症结在于:

一是数据搬运带来了巨大的能量消耗。在传统架构下,数据从内存单元传输到计算单元需要的功耗是计算本身的约200倍,因此真正用于计算的能耗和时间占比很低。

二是内存的发展远远滞后于处理器的发展。目前,处理器的算力以每两年3.1倍的速度增长,而内存的性能每两年只有1.4倍的提升。后者的性能极大地影响了数据传输的速度,这也被认为是传统计算机的阿克琉斯之踵。

存算一体芯片是目前解决以上问题的最佳途径——它类似于人脑,将数据存储单元和计算单元融合为一体,大幅减少数据搬运,从而极大提高计算并行度和能效。

这一技术早在90年代就被提出,但受限于技术的复杂度、高昂的设计成本以及应用场景的匮乏,过去几十年业界对存算一体芯片的研究进展缓慢。如今,达摩院希望通过自研创新技术解决算力瓶颈这一业界难题。

此外,存算一体芯片在终端、边缘端以及云端都有广阔的应用前景。例如VR/AR、无人驾驶、天文数据计算、遥感影像数据分析等场景中,存算一体芯片都可以发挥高带宽、低功耗的优势。

从长远来看,存算一体技术还将成为类脑计算的关键技术。

 02 实现存算一体的三种路线

实现存算一体有三种技术路线:

近存储计算(Processing Near Memory):计算操作由位于存储芯片外部的独立计算芯片完成。

内存储计算(Processing In Memory):计算操作由位于存储芯片内部的独立计算单元完成,存储单元和计算单元相互独立存在。

内存执行计算(Processing With Memory):存储芯片内部的存储单元完成计算操作,存储单元和计算单元完全融合,没有一个独立的计算单元。

其中,近存计算通过将计算资源和存储资源距离拉近,实现对能效和性能的大幅度提升,被认为是现阶段解决内存墙问题的最佳途径。达摩院本次也是沿着这一方向进行突破。

 03 近存计算架构&3D混合键合

为了拉近计算资源和存储资源的距离,达摩院计算技术实验室创新性采用混合键合(Hybrid Bonding)的3D堆叠技术进行芯片封装——将计算芯片和存储芯片face-to-face地用特定金属材质和工艺进行互联。

比起业内常见的封装方案HBM,混合键合3D堆叠技术拥有高带宽、低成本等特点,被认为是低功耗近存计算的完美载体之一。

此外,内存单元采用异质集成嵌入式DRAM (SeDRAM),拥有超大内存容量和超大带宽优势。

同时在计算芯片方面,达摩院研发设计了流式的定制化加速器架构,对推荐系统进行“端到端”加速,包括匹配、粗排序、神经网络计算、细排序等任务。

这种近存架构有效解决了带宽受限的问题,最终内存、算法以及计算模块的完美融合,大幅提升带宽的同时还实现了超低功耗,展示了近存计算在数据中心场景的潜力。

最终的测试芯片显示,这种存算技术和架构的优势明显:

能通过拉近存储单元与计算单元的距离增加带宽,降低数据搬运的代价,缓解由于数据搬运产生的瓶颈,而且与数据中心的推荐系统对于带宽/内存的需求完美匹配。

得益于技术的创新性,该芯片的研究成果已被芯片领域顶级会议ISSCC 2022收录。

未来,达摩院希望能进一步攻克存内计算技术,并逐步优化典型应用、生态系统等方面

立即登录,阅读全文
版权说明

本文内容来自于阿里云,本站不拥有所有权,不承担相关法律责任。文章内容系作者个人观点,不代表快出海对观点赞同或支持。如有侵权,请联系管理员(hj@kchuhai.com)删除!

相关文章
阿里AI语音语义市场增速第一
阿里AI语音语义市场增速第一
日前,权威市场研究机构IDC发布《中国人工智能软件及应用市场研究报告,2021H1》,阿里AI在语音语义领域保持71.3%的强劲增长,市场规模增速,在中国语音语义厂商中排名第一。
阿里云
2022-01-05
阿里云与浙江电信达成全面战略合作
阿里云与浙江电信达成全面战略合作
双方整合优势资源与能力,在“建好云”“用好云”“护好云”等方面开展深度合作,深化政企市场合作,共同打造区域云服务中心,逐步建成覆盖“省市-区县-乡镇”的数字化建设体系,更好地服务于浙江数字化改革建设。
AsiaOTT众视媒体
2021-12-31
阿里云全栈数字孪生技术打造新型智慧城市
阿里云全栈数字孪生技术打造新型智慧城市
近日,中国信息通信研究院发布“2021 年度数字孪生城市典型案例”。应用了阿里云数字孪生核心技术的宁波城市大脑应急管理数字孪生和成宜智慧高速数字孪生两个案例,在近百个案例中脱颖而出,成功入选十二大典型案例。
TechWeb.com.cn
2021-12-30
阿里云助力“云上嘉善”,领跑中国智慧县级城市建设
阿里云助力“云上嘉善”,领跑中国智慧县级城市建设
12月28-29日,由国家信息中心和亚洲数据集团联合主办的2021亚太智慧城市发展论坛在深圳举行,论坛同期举办2021年度亚太领军智慧城市颁奖典礼。嘉善县凭借数字化建设,斩获“2021中国领军智慧县级城市”奖项。
互联快报网
2021-12-30
阿里云发布首款液冷产品 赋能绿色数据中心
阿里云发布首款液冷产品 赋能绿色数据中心
12月29日消息,日前,在“第十六届中国IDC产业年度大典”上,阿里云正式向业界发布行业首款单相浸没液冷解决方案——磐久液冷一体机系列Immersion DC 1000,助力低碳绿色数据中心构建。
TechWeb
2021-12-30
扫描关注获取更多 阿里云 的相关信息
服务商推荐 更多 >
北京云联万维技术有限公司
脉时云
脉时云是领先的出海融合云服务商,是Google Cloud北亚区规模最大的Premier Partner和亚马逊云科技APN Advanced Partner,累计服务超过100家中国出海企业,核心团队来自于美团、滴滴、豌豆荚、中国电信等公司,肩负连接全球用户与中国应用的使命。
云服务
3YData
3YData
海内外ASA广告代投服务
推广
F5 Networks
F5
出海无国界,云端新引擎 —— 云原生时代的全球智能应用安全交付专家
云服务
Sanuker Inc. Limited
Sanuker
Sanuker是一家专注为中国出海品牌打造对话式商务体验的服务商,我们2017年有幸开始成为Messenger的开发者合作伙伴,并在2019年成为WhatsApp全球商业方案的提供商,为各大品牌设计并开发售前,转换和售后的对话式商务体验。
推广数据服务
北京蓝色光标数字传媒科技有限公司
蓝瀚互动
专注于为出海企业提供全套价值链服务,包括海外市场洞察、品牌营销策略、创意设计、广告优化、 账户管理、全球KOL营销、粉丝页运营等一站式整合营销服务,满足出海广告主的多元化需求。
推广
杭州云片网络科技有限公司
云片
作为全球移动通讯系统协会GSMA会员单位,云片一直以来积极拓展全球通讯业务。目前云片短信业务覆盖全球217个国家和地区,与全球1000+运营商建立了合作。云片凭借创新解决方案和专业的客户服务,一直领跑行业。在国际服务方面,支持【国际短信】【国际彩信】【全球语音验证】【行为验证】【OTP】【一键登录】
云服务
扫码登录
打开扫一扫, 关注公众号后即可登录/注册
加载中
二维码已失效 请重试
刷新
账号登录/注册
小程序
公众号
商务合作
投稿采访
出海管家