广告

耗时三年打造,融合ASIC的全新FPGA如何做到比对手快10倍?

2019-05-29 夏菲 阅读:
这款新产品他们在三年前就开始规划,过程中,Achronix工程团队重新构想了整个FPGA架构,要平衡片上处理、互连和外部输入输出接口(I/O),以实现数据密集型应用吞吐量的最大化,应用场景包括高性能AI/ML应用、数据中心的边缘计算、网络处理、5G网络处理、存储、IP授权技术。

随着人工智能、机器学习等应用场景快速发展演进,对芯片的算力、安全性等性能也提出了更高的诉求。72hednc

据市场调研公司Semico Research数据显示,2018年FPGA市值约为10亿美元,在未来4年内,人工智能应用中FPGA的市场规模将增长3倍,达到52亿美元。72hednc

015ednc2019053072hednc

Achronix Semiconductor总裁兼首席执行官Robert Blake表示:“目前人工智能、机器学习等应用场景的FPGA市场约为25%,预计两年后将达到72%。如此庞大的市场空间,则需要性能更高、更加灵活的AI算法解决方案。”72hednc

为满足人工智能/机器学习(AI/ML)和高带宽数据加速应用日益增长的需求。5月21日,Achronix在深圳召开媒体交流会,宣布推出采用了TSMC的7nm FinFET工艺制造的,具有创新性的、全新FPGA系列产品Speedster®7t系列。72hednc

据Achronix总裁兼首席执行官Robert Blake介绍,Speedster7t系列基于一种高度优化的全新架构,从而获得有类似ASIC一样的性能、可简化设计的FPGA灵活性和增强功能,会远高于传统的FPGA解决方案。72hednc

023ednc2019053072hednc

Achronix总裁兼首席执行官Robert Blake72hednc

FPGA技术与ASIC核心效率的融合

Robert Blake表示Speedster7t是Achronix历史上最令人激动的发布,代表了建立在四个架构代系的硬件和软件开发基础上的创新和积淀,以及与我们领先客户之间的密切合作。72hednc

016ednc2019053072hednc

Speedster 7t是灵活的FPGA技术与ASIC核心效率的融合,提供了一个全新的“FPGA+”芯片品类,可将高性能技术的极限大大提升。Robert指出,这款新产品他们在三年前就开始规划,过程中,Achronix工程团队重新构想了整个FPGA架构,要平衡片上处理、互连和外部输入输出接口(I/O),以实现数据密集型应用吞吐量的最大化,应用场景包括高性能AI/ML应用、数据中心的边缘计算、网络处理、5G网络处理、存储、IP授权技术。72hednc

此外,Achronix在SpeedcoreeFPGA IP中采用了与Speedster7t FPGA中使用的同一种技术,可支持从Speedster7t FPGA到ASIC的无缝转换。FPGA应用通常具有必须保持可编程性的功能,而其他固定功能则是专用于特定的系统应用。对于ASIC的转换而言,固定功能可以被固化进ASIC结构中,从而减小芯片面积、成本和功耗。当使用SpeedcoreeFPGA IP将Speedster7t FPGA转换为ASIC时,客户有望节省高达50%的功耗并降低90%的成本。72hednc

全新机器学习处理器(MLP)

传统的基于DSP的FPGA计算单元是针对无线滤波等复杂应用而设计的,其DSP、LUTs、存储单元是分立的,需要高精度和浮点数字格式,布线也限制了其性能,在处理AI/ML应用时不仅不能高效地支持AI模型的不同数值精度,还要消耗额外逻辑的存储资源,难以达到AI算法的要求。72hednc

017ednc2019053072hednc

Speedster7t FPGA是在传统的架构上进行改进,设计出了MLP单元,采用阵列式乘累积计算架构,每个乘累加单元(MAC)支持最多32个乘法器,实现计算的可配置。同时,MLP单元集成同时支持浮点MAC和整数MAC,包括对TensorFlow的16位格式的支持,以及可使每个MLP的计算引擎加倍的增压块浮点格式的直接支持。72hednc

此外,MLP与嵌入式存储器模块紧密相邻,通过消除传统设计中与FPGA布线相关的延迟,来确保以750MHz的最高性能将数据传送到MLP。72hednc

据Robert Blake介绍,MLP的效率比传统FPGA的性能提升了5倍,使这款FPGA能以每秒万亿次运算数量为单位(TOPS)。算法在不断的改变,但底层的需求都是一样的,他们希望建立一个很好的硬件底层,让算法无论怎么改变,需求都可以被满足。72hednc

GDDR6控制器:高速存储带宽和接口

决定AI处理器最终性能的除了高性能计算和机器学习系统之外,还对数据的存储及传输有着极高的要求。72hednc

据了解,目前的高速储存标准有HBM和GDDR6,Speedster7t器件采用的是GDDR6存储器,能够以HBM一半的成本提供与HBM等效的存储带宽,并且最多可以支持8个GDDR6控制器,每个GDDR6控制器可以支持512Gbps带宽,8个GDDR6的总带宽高达4Tbps。72hednc

018ednc2019053072hednc

除了这种非凡的存储带宽,Speedster7t器件还包括业界最高性能的接口端口,以支持极高带宽的数据流。Speedster7t器件拥有多达72个业界最高性能的SerDes,可以达到1到112 Gbps的速度。72hednc

019ednc2019053072hednc

还带有前向纠错(FEC)的硬件400G以太网MAC,支持4x 100G和8x 50G的配置,每个控制器有8个或16个通道的硬件PCI Express Gen5控制器。为了应对400G以太网数据的处理需求,Achronix采用的是将数据进行分割并行处理的方法。72hednc

二维片上网络(NoC)实现超高效率的数据移动

来自Speedster7t高速I / O和存储器端口的数万兆比特数据很容易淹没传统FPGA面向比特位的可编程互连逻辑阵列的路由容量。与Achronix年初发布的Speedcore 7t所采用的bus走线相比,Speedster7t采用的二维片上网络(NoC)可谓是这款新产品架构的另一大关键创新,它可横跨和垂直跨越FPGA逻辑阵列,连接到所有FPGA的高速数据和存储器接口。72hednc

020ednc2019053072hednc

Robert Blake将其形象地比喻为“叠加在FPGA互连这个城市街道系统上的空中高速公路网络”,极大地简化了高速数据移动,并确保数据流可以轻松地定向到整个FPGA结构中的任何自定义处理引擎。72hednc

021ednc2019053072hednc

NoC中的每一行或每一列都可作为两个256位实现,单向的、行业标准的AXI通道,工作频率为2Ghz,同时可为每个方向提供512 Gbps的数据流量。最重要的是,NOC消除了传统FPGA使用可编程路由和逻辑查找表资源在整个FPGA中移动数据流中出现的拥塞和性能瓶颈。不仅可以提高Speedster7t FPGA的总带宽容量,还可以在降低功耗的同时提高有效LUT容量。72hednc

Robert Blake表示:NoC可能比竞争对手的速度快10倍。72hednc

底层软件对硬件的重要性

Robert Blake在会上强调,底层的软件非常重要,如果NOC软件做不好,就很难实现真正的提升。72hednc

据Robert透露,Achronix在软件和硬件方面的投资相当,并且在公司创立的时候很大的优势就是软件技术,这也是他们今天能做到高端配置的的重要原因。72hednc

022ednc2019053072hednc

Achronix专门推出了配套的ACE软件设计工具,该软件与业界标准的逻辑综合工具配合使用,支持FPGA设计人员便捷地将其设计映射到Speedster7t FPGA、Speedcore eFPGA和Speedchip FPGA chiplets产品中,该ACE软件设计工具可直接获得。72hednc

小结:未来AI芯片将如何演进?

对比GPU、FPGA和ASIC的特点我们发现,FPGA相对于CPU与GPU有明显的性能或者能耗优势,但对使用者要求高;ASIC可以更有针对性地进行硬件层次的优化,从而获得更好的性能、功耗比,但弊端在于ASIC芯片的设计和制造需要大量的资金、较长的研发周期和工程周期,而且深度学习算法仍在快速发展,若深度学习算法发生大的变化,FPGA能很快改变架构,适应最新的变化,ASIC类芯片一旦定制则难于进行修改。72hednc

Robert表示,CPU、GPU、FPGA、ASIC每一类芯片都有其技术长处,并且AI芯片的市场在增长,所有的芯片类型都会从中受益。72hednc

而随着AI的发展,芯片发生了一些变化,ASIC也需要一些可编程的能力,而我们现在也在FPGA当中增加了ASIC的属性,因此未来FPGA和ASIC都可能不再是传统定义。72hednc

 72hednc

本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
夏菲
电子技术设计(EDN China)助理产业分析师
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • Microchip模拟嵌入式SuperFlash技术助力存算一体创新 SuperFlash memBrain存储器解决方案使知存科技片上系统(SoC)能够满足最苛刻的神经处理成本、功耗和性能要求
  • 用TinyML开始设计——开发评估套件 本文中展示的开发套件和评估板得到一些流行的机器学习库和用于 TinyML 工作流程资源的支持,包括用于微控制器的 Google TensorFlow Lite 和 Edge Impulse,因而它们能够成为您第一个项目的理想起点。
  • “中国IC设计成就奖”提名产品简介:高性能GPU芯片及解 沐曦致力于提供国际顶尖的高性能通用GPU芯片及解决方案,结合我国人工智能等领域对GPU芯片的强烈市场需求,对标当前国际领先的GPU芯片产品立项开展技术研发。
  • “中国IC设计成就奖”提名产品简介:全志科技高性能智能 高性能三重异构智能语音应用处理器R329芯片,采用业界先进的半导体工艺,首款集成Arm中国周易语音处理器。集成DSP、NPU、64位CPU及丰富的外设接口,创新突破了低功耗、边缘语音AI超级算力、多重异构通讯、多核调度等关键技术,处于国内领先水平。
  • “中国IC设计成就奖”提名产品简介:追萤3D AI芯片Ai310 埃瓦科技自主研发的追萤 3D AI芯片创新的采用了异构架构 SOC 设计和微内核架构设计,包含 NPU 神经网络加速核、3D 立体匹配加速核、ISP 核等功能性处理核心;其中 NPU 神经网络加速核基于可重构以及片上多级存储和缓存设计,使数据可高效送达加速核心,使该芯片拥有领先的高效智能处理能力、分析以及低功耗管理的能力;其设计架构的资源复用性使硬件计算单位可灵活分配,适应于不同场景的计算需求;在 3D 视觉算法加速方面创新的采用了自研立体匹配算法的 3D 加速微内核架构设计,可有效加速双目立体视觉、结构光等多种 3D 视觉算法。
  • “中国IC设计成就奖”提名产品简介:ada200优势 1.九天睿芯,感存算一体芯片,可以在功耗和性能满足”低功耗AI场景“的同时,成本也大幅度下降。2.采用模数混合的存内计算架构,ADA200相比传统数字芯片,1/3成本,1/10功耗。
  • “中国IC设计成就奖”提名产品简介:面向边缘视觉分析的 面向边缘视觉分析的数据流AI芯片CAISA是鲲云科技自主研发的专为人工智能图像提供高性能计算加速的AI芯片产品,是全球首个量产的数据流AI芯片。
  • “中国IC设计成就奖”提名产品简介:人工智能语音芯片CI 1、人工神经网络硬件引擎架构:具备高计算性能,进行神经网络计算时相当于数十个CPU并行计算的能力;低访问带宽和低功耗,通过并行计算和共用神经元权重参数,大幅降低访问带宽及功耗;高可配置性,支持神经元层数和节点数、神经网络结构的配置。 2、单、双、及麦克风阵列降噪增强技术:支持各种平稳、非平稳环境噪声抑制;可支持线阵、圆阵结构等常用麦阵结构;采用定向波束形成与自适应信号处理技术相结合;拾取方向动态可调;支持单声道、立体声等回声抑制;采用独立研发的空间预测技术,支持强回声情况下回声抑制;与降噪处理技术相结合;自动增益调节、高通、带通滤波等。 3、低功耗和可靠性设计技术:具备低功耗集成电路设计技术,包括基于活动语音检测的低功耗控制技术和时钟门控技术。 4、逻辑设计技术:掌握了语音信号处理IP的设计方法,包括算法硬件化、定点、浮点运算处理等。同时积累了整套SoC设计所需的控制类IP,并成功通过流片验证。
  • “中国IC设计成就奖”提名产品简介:智能安防AI SoC芯片 亿智SV826是2021年推出的高性能的安防AI SoC芯片,主要面向视频编解码AI摄像机产品。
  • “中国IC设计成就奖”提名产品简介:低功耗视觉AIoT SoC 亿智SH516芯片是亿智电子2021年推出的一款低功耗的智能视觉AIoT SoC芯片。
  • “中国IC设计成就奖”提名产品简介:高性能大算力全场景 - AI性能跑分更强,超越Nvidia Orin - 应用当前先进的安全技术和研发流程 - 国内唯一可获得、支持快速量产的整车智能计算平台芯片
  • “中国IC设计成就奖”提名产品简介:高端AIoT芯片RV1126 RK3568是瑞芯微的高端AIoT芯片。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了