广告

三星想把PIM用于HBM之外的领域

2021-08-30 Gary Hilson 阅读:
如何看待带有 HBM2-PIM 的 Aquabolt-XL 用于机器学习(ML ) 加速器和其他人工智能 (AI) 应用。

三星在使内存处理 (PIM) 技术成为主流方面又迈出了一步。其支持 PIM 的高带宽内存 (HBM-PIM) 首次成功集成到商业化加速器系统中,这是将 PIM 技术集成到其他内存类型的愿景的一部分。ET4ednc

今年2月,三星推出了其首个HBM-PIM(Aquabolt-XL),将AI处理能力整合到三星HBM2 Aquabolt中,以增强超级计算机和AI应用的高速数据处理能力。随后,HBM-PIM在赛灵思(Xilinx)Virtex Ultrascale+(Alveo)AI加速器中进行了测试,它提升了近2.5倍的系统性能,并降低超过60%的能耗。ET4ednc

三星内存业务部高级副总裁 Nam Sung Kim 概述了公司如何看待带有 HBM2-PIM 的 Aquabolt-XL 用于机器学习(ML ) 加速器和其他人工智能 (AI) 应用。ET4ednc

他表示,由于各种物理和热限制,新兴 ML 和 AI 应用的内存带宽需求快速增长,且更加昂贵和耗电。“由于PCB导线和芯片封装、及功率的限制,继续增加带宽变得非常困难和昂贵。”ET4ednc

ET4ednc

图:Nam Sung Kim。ET4ednc

Kim 表示,通过让处理器更接近内存,PIM 可以提高受内存限制的工作负载的性能和能源效率。ET4ednc

虽然PIM 并不是一个新想法,但对主机处理器和/或应用代码进行必要更改是阻碍行业广泛采用的一个关键障碍。ET4ednc

Aquabolt-XL瞄准是低算术密度的内存绑定负载,例如语音识别和自然语言处理,但 Kim 表示它并不打算与 AI 加速器中的机器学习竞争。相反,它旨在补充处理器的计算能力。“我们可以针对各种工作负载提高系统的性能和效率。”ET4ednc

图:三星的 Aquabolt-XL HBM2-PIM 的架构是 HBM2 的直接替代品,并与符合 JEDEC 的 HBM2 内存控制器完全兼容。(图片来源:三星ET4ednc

PIM应用之外的HBMET4ednc

三星也在 HBM 之外寻找 PIM 应用程序。Kim 表示,公司正在使用 PIM 以加速 DIMM (AXDIMM) 的形式为 DRAM 模块本身提供处理能力。这最大限度地减少了 CPU 和 DRAM 之间的大量数据移动,以提高 AI 加速器系统的能效。ET4ednc

由于 AI 引擎内置于缓存芯片内部,AXDIMM 可以并行处理多个内存列(一组 DRAM 芯片),而不是一次只访问一个列。ET4ednc

图:与 HBM-PIM 一样,三星的 AXDIMM 可以作为 DRAM 替代品使用,无需任何系统修改,并且在缓存芯片中内置了一个 AI 引擎来执行多个内存列的并行处理。(图片来源:三星)ET4ednc

 ET4ednc

胡安节选编译自 EETimes,Samsung Expands PIM Ambitions 。ET4ednc

本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Gary Hilson
EE Times特约编辑。Gary Hilson是一位自由撰稿人和编辑,曾为北美地区的印刷和电子出版物撰写过大量稿件。 他感兴趣的领域包括软件、企业级和网络技术、基础研究和教育市场,以及可持续交通系统和社会新闻。 他的文章发表于Network Computing,InformationWeek,Computing Canada,Computer Dealer News,Toronto Business Times,Strategy Magazine和Ottawa Citizen。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 外媒评测小米 11T Pro:快充很牛,相机拉跨 伴随着小米 11T 系列的发布,外媒AndroidAuthority发文称在经过六天的使用测视之后,总结出了关于小米 11T Pro的评测报告。AndroidAuthority认为,小米对 11T Pro 的目标很高,但并没有完全达到目标。这款手机有很多优点,例如华丽的显示屏、一流的性能和极快的充电速度,但相机的性能中等,并且有几个缺失的功能损害了它的整体吸引力。
  • 6502处理器出柔性芯片版本啦!缅怀古典半导体 PragmatIC最近宣布开发6502处理器的柔性芯片版本,似乎也带领着科技史爱好者穿梭时空,回到6502处理器的那段怀旧时光...
  • 苹果A15仿生芯片成目前最强芯片!iPhone 13 Pro的GPU跑 EDN小编在测试平台GeekBench上发现了最新的iPhone 13 Pro的跑分成绩,A15仿生芯片的GPU性能与上一代相比有了明显提升。在Metal项目中,iPhone 13 Pro跑分高达14216分,比iPhone 12 Pro的9123分足足高了55%。虽然iPhone 13和13 mini的A15比13 Pro、13 Pro Max少一个GPU核心,但按照目前的跑分情况,iPhone 13和13 mini的游戏性能也是目前Android手机望尘莫及的。
  • 苹果自称A15仿生芯片性能超同行两年? iPhone 13系列搭载的是苹果研发的A15仿生芯片,采用业界目前最先进的5nm制程工艺,集成150亿个晶体管。与iPhone 12系列搭载的A14仿生芯片相比,A15提升明显,A14是集成了118亿个晶
  • 一文看懂苹果发布会:刘海缩小、支持高刷,iPhone13到底香 加州来电,苹果的重头戏--秋季发布会如约到来。以 Apple TV+ 开场,苹果推出了 iPad Mini 6 和 iPad 9 两款 iPad、Apple Watch Series 7,以及iPhone 13 Pro/13 Pro Max,iPhone 13 Pro和iPhone 13 Pro Max四款 iPhone 13 机型。全面屏时代,刘海屏还有多少忠粉?
  • 英特尔、高通等芯片发现新安全漏洞,将严重破坏蓝牙链接 BrakTooth 是商业闭源蓝牙经典堆栈中的一系列新安全漏洞,范围从拒绝服务 (DoS)、固件崩溃和死锁到某些物联网设备中的任意代码执行 (ACE)。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了