广告

三星如何给内存加上AI? 

2021-08-24 阅读:
三星首次成功将基于PIM的高带宽存储器(HBM-PIM)整合到商用化加速器系统中,并扩大PIM应用范围至DRAM模组和移动内存,从而加速实现内存和逻辑的融合。

近期,三星在Hot Chips 33会议上展示了其在内存内处理(PIM)技术方面的最新进展。xR2ednc

Hot Chips 33会议作为半导体行业的重要会议,每年都会有备受瞩目的微处理器和IC创新产品亮相。xR2ednc

三星半导体 HBM-PIMxR2ednc

三星发布的信息包括,三星首次成功将基于PIM的高带宽存储器(HBM-PIM)整合到商用化加速器系统中,并扩大PIM应用范围至DRAM模组和移动内存,从而加速实现内存和逻辑的融合。xR2ednc

三星首次将HBM-PIM集成到AI加速器中xR2ednc

今年2月,三星推出了其首个HBM-PIM(Aquabolt-XL),将AI处理能力整合到三星HBM2 Aquabolt中,以增强超级计算机和AI应用的高速数据处理能力。随后,HBM-PIM在赛灵思(Xilinx)Virtex Ultrascale+(Alveo)AI加速器中进行了测试,它提升了近2.5倍的系统性能,并降低超过60%的能耗。xR2ednc

“HBM-PIM是三星首个在客户AI加速器系统中进行了测试的AI定制内存解决方案,显示出巨大的商业潜力。”三星电子DRAM产品和技术高级副总裁Nam Sung Kim表示,“随着技术标准化发展,该技术应用将会进一步扩大,扩展至用于下一代超级计算机和AI应用的HBM3,甚至用于设备上AI的移动存储器,以及用于数据中心的存储器模块。”xR2ednc

“赛灵思一直与三星电子合作,从Virtex UltraScale+ HBM系列开始,为数据中心、网络和实时信号处理应用提供高性能解决方案。近期,双方又推出了令人振奋的Versal HBM系列产品。”赛灵思产品规划部高级总监Arun Varadarajan Rajagopal表示,“很高兴能与三星继续开展合作,我们帮助评估HBM-PIM系统在AI应用中实现重大性能,及能效提升的潜力。”xR2ednc

PIM驱动的DRAM模块xR2ednc

加速DIMM(AXDIMM)能在DRAM模块内进行“处理”,尽可能减少CPU和DRAM之间的大量数据交换,以提升AI加速器系统的能源效率。由于缓冲芯片内嵌有AI引擎,AXDIMM可对多个内存排列(DRAM芯片组)并行处理,而非每次仅访问一组,从而大大提升了系统性能和效率。由于AXDIMM模块能保留传统DIMM的外形尺寸,因此它能在不修改系统的情况下直接替换。目前,AXDIMM正在客户的服务器上进行测试,能够在基于AI的推荐应用中,提供大约2倍的性能,并使整个系统的能耗减少40%。xR2ednc

三星半导体 AXDIMMxR2ednc

“思爱普(SAP)一直为SAP-HANA在内存内数据库(IMDB)应用方面与三星开展合作。”思爱普HANA核心研究与创新主管Oliver Rebholz表示,“根据性能预测和潜在的整合方案,我们预计内存内数据库管理(IMDBMS)的性能会有明显改善,并通过AXDIMM上的分解计算,实现更高能效。思爱普希望继续与三星在该领域进行合作。”xR2ednc

移动存储器将AI从数据中心带到设备上xR2ednc

三星LPDDR5-PIM移动存储器,可在不连接数据中心的情况下,提供独立的AI功能。模拟测试表明,LPDDR5-PIM在用于语音识别、翻译和聊天机器人等应用时,可提升1倍以上的性能,同时减少60%以上的能耗。xR2ednc

激发生态系统活力xR2ednc

三星计划通过与其他行业领导者合作,在2022年上半年实现PIM平台标准化,从而扩展AI内存产品组合。三星还将继续努力,培养一个高度健全的PIM生态系统,以确保整个内存市场的广泛适用性。xR2ednc

*实际性能可能因设备和用户环境而异xR2ednc

*本文中的产品图片以及型号、数据、功能、性能、规格参数、特点和其他产品信息(包括但不限于产品的优势、组件、性能、可用性和能力)等仅供参考,三星有可能对上述内容进行改进,且均无需通知或不受约束即可变更,具体信息请参照产品实物、产品说明书。除非经特殊说明,本文中所涉及的数据均为三星内部测试结果,本文中涉及的对比均为与三星产品相比较。xR2ednc

 xR2ednc

责编:胡安xR2ednc

  • 模拟测试表明,在语音识别、翻译和聊天机器人等应用中,LPDDR5中的PIM技术可以将性能提高一倍以上,同时减少60%以上的能源使用量。”
  • 三星还没有透露这种内存何时会出现在智能手机上,目前只知道它的目标是在2022年上半年完成PIM技术的标准化。
  • 目前还不清楚这项技术有多强大,是否能处理图像处理和计算机视觉等更高级的任务。毕竟,许多智能手机的芯片组不仅能够运行高级机器学习任务,而且几乎所有旗舰设备都有专门的人工智能芯片。但是,理论上讲,具有processing-in-memory技术支持的RAM对于廉价手机来说是理想的,这样手机厂商就可以选择更便宜的芯片,让“智能”RAM来承担一些繁重的工作。
本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • IAR Systems率先支持集成AI技术的Arm Cortex-M55内 IAR Embedded Workbench现已支持最新的Arm Cortex-M55系列处理器,为其提供强大的工具支持,助力嵌入式应用领域持续创新
  • 神经拟态计算基准测试难在哪里? 神经拟态计算是工程师正在尝试的一个全新领域,不易与其他系统进行比较可能是这项技术的一个难点。基准测试过去几年已逐渐成为神经拟态工程的热门话题,对于使用不同接口、编码、技术和方法的神经拟态系统,开发人员要如 何进行基准测试并且要花多长时间呢?
  • 恩智浦推出i.MX 93应用处理器系列,助力迈向安全边缘智 恩智浦半导体(NXP)宣布推出i.MX 93系列应用处理器,该系列处理器专为汽车、智能家居、智能楼宇和智能工厂应用而设计,利用边缘机器学习,根据用户需求实现预测和自动化。
  • 凌华科技发布首款基于NVIDIA Jetson AGX Xavier工 AI影像分析(AVA)平台提供高密度计算与I/O弹性配置,适用于严苛环境下空间有限的边缘应用
  • 新工业布局紧锣密鼓,全球CEO畅谈合作新模式 新工业的高质量的发展,离不开5G、人工智能(AI)、数字孪生、机器学习、机器视觉、远程实时控制、工业互联网、大数据、云计算、智能传感、MCU、操作系统等技术日新月异的驱动,从硬科技到软平台,推动新工业从数字化向智能化推进,把制造业带入循序渐进的工业变革。以“新工业”为主题,本届全球CEO峰会围绕半导体芯片设计、CPU架构、新能源、万物互联等方面进行了探讨。
  • 瓴盛科技再迎两大新战略投资者,携手格科微、电连技术共 本次合伙企业认缴出资总额为人民币227,378,712.50元,其中:格科微作为有限合伙人以自有资金出资人民币86,573,642.56元;电连技术作为有限合伙人以自有资金出资人民币21,643,410.64元。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了