广告

三星想把PIM用于HBM之外的领域

2021-08-30 Gary Hilson 阅读:
如何看待带有 HBM2-PIM 的 Aquabolt-XL 用于机器学习(ML ) 加速器和其他人工智能 (AI) 应用。

三星在使内存处理 (PIM) 技术成为主流方面又迈出了一步。其支持 PIM 的高带宽内存 (HBM-PIM) 首次成功集成到商业化加速器系统中,这是将 PIM 技术集成到其他内存类型的愿景的一部分。yeaednc

今年2月,三星推出了其首个HBM-PIM(Aquabolt-XL),将AI处理能力整合到三星HBM2 Aquabolt中,以增强超级计算机和AI应用的高速数据处理能力。随后,HBM-PIM在赛灵思(Xilinx)Virtex Ultrascale+(Alveo)AI加速器中进行了测试,它提升了近2.5倍的系统性能,并降低超过60%的能耗。yeaednc

三星内存业务部高级副总裁 Nam Sung Kim 概述了公司如何看待带有 HBM2-PIM 的 Aquabolt-XL 用于机器学习(ML ) 加速器和其他人工智能 (AI) 应用。yeaednc

他表示,由于各种物理和热限制,新兴 ML 和 AI 应用的内存带宽需求快速增长,且更加昂贵和耗电。“由于PCB导线和芯片封装、及功率的限制,继续增加带宽变得非常困难和昂贵。”yeaednc

yeaednc

图:Nam Sung Kim。yeaednc

Kim 表示,通过让处理器更接近内存,PIM 可以提高受内存限制的工作负载的性能和能源效率。yeaednc

虽然PIM 并不是一个新想法,但对主机处理器和/或应用代码进行必要更改是阻碍行业广泛采用的一个关键障碍。yeaednc

Aquabolt-XL瞄准是低算术密度的内存绑定负载,例如语音识别和自然语言处理,但 Kim 表示它并不打算与 AI 加速器中的机器学习竞争。相反,它旨在补充处理器的计算能力。“我们可以针对各种工作负载提高系统的性能和效率。”yeaednc

图:三星的 Aquabolt-XL HBM2-PIM 的架构是 HBM2 的直接替代品,并与符合 JEDEC 的 HBM2 内存控制器完全兼容。(图片来源:三星yeaednc

PIM应用之外的HBMyeaednc

三星也在 HBM 之外寻找 PIM 应用程序。Kim 表示,公司正在使用 PIM 以加速 DIMM (AXDIMM) 的形式为 DRAM 模块本身提供处理能力。这最大限度地减少了 CPU 和 DRAM 之间的大量数据移动,以提高 AI 加速器系统的能效。yeaednc

由于 AI 引擎内置于缓存芯片内部,AXDIMM 可以并行处理多个内存列(一组 DRAM 芯片),而不是一次只访问一个列。yeaednc

图:与 HBM-PIM 一样,三星的 AXDIMM 可以作为 DRAM 替代品使用,无需任何系统修改,并且在缓存芯片中内置了一个 AI 引擎来执行多个内存列的并行处理。(图片来源:三星)yeaednc

 yeaednc

胡安节选编译自 EETimes,Samsung Expands PIM Ambitions 。yeaednc

本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Gary Hilson
EE Times特约编辑。Gary Hilson是一位自由撰稿人和编辑,曾为北美地区的印刷和电子出版物撰写过大量稿件。 他感兴趣的领域包括软件、企业级和网络技术、基础研究和教育市场,以及可持续交通系统和社会新闻。 他的文章发表于Network Computing,InformationWeek,Computing Canada,Computer Dealer News,Toronto Business Times,Strategy Magazine和Ottawa Citizen。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了