广告

用于先进视频处理解决方案的FPGA产品与技术

2021-03-22 Achronix 阅读:
本白皮书将介绍基于FPGA的解决方案在以下三种应用中的优势:视频流;使用视频编辑软件来创作视频内容;人工智能(AI)和深度学习–图像识别是该应用的主要部分,其需要高性能的计算资源。

部署先进的网络基础设施不仅可以解决数据传输量激增的问题,而且还能在诸如边缘、核心和云端等网络的不同部分进行数据处理。不足为奇的是大部分数据要么是视频,要么是图像,并且这些数据正以指数级速度增长,并将在未来几年内保持持续增长。因此,需要更多的计算资源来应对数据的大量增长(如图1所示)。Uj6ednc

由于应用的类型多种多样,因此在数据中心中存在着各种各样的视频或图像处理工作负载。基于专用集成电路(ASIC)的解决方案通常可提供更高的性能,但是无法进行升级以支持未来的算法;基于中央处理器(CPU)的解决方案要比其更加灵活,但其时钟主频已经固定,而且已不再可能大幅提升处理器性能;图形处理器(GPU)是提供视频/图像处理解决方案的另一种候选方案,但其功耗明显高于基于现场可编程逻辑门阵列(FPGA)的解决方案。FPGA在视频处理和压缩领域内,是一种具有吸引力的选择,因为它们提供了实现创新视频处理算法所需的、平衡的资源。此外,FPGA提供了一种灵活的解决方案,可以缩短产品上市时间,并能在解决方案的整个生命周期内实现持续升级和部署新的功能。Uj6ednc

1互联网用户和数据流的增长Uj6ednc

年份 互联网用户 设备与连接 宽带速度 视频数据流
2017 34亿 180亿 39.0 Mbps 占总量的75%
2022 48亿 285亿 75.4 Mbps 占总量的83%

来源:思科(Cisco公司Uj6ednc

Uj6ednc

1全球互联网视频数据流(来源:思科)Uj6ednc

33% CAGR 2017-2022:2017-2022年间的复合年增长率33%Uj6ednc

Exabytes per Month:每月的Exabytes数量Uj6ednc

基于FPGA的视频解决方案的示例

本白皮书将介绍三种典型的视频应用,以展示基于FPGA的解决方案在广播行业中的优势。这些优势包括缩短处理时间、降低功耗,以及为服务提供商和终端用户节省成本。Uj6ednc

本白皮书将介绍基于FPGA的解决方案在以下三种应用中的优势:Uj6ednc

  • 视频流
  • 使用视频编辑软件来创作视频内容
  • 人工智能(AI)和深度学习–图像识别是该应用的主要部分,其需要高性能的计算资源

视频流传送

为了使媒体流变得快速和高效,对视频进行转码的需求已急剧增加。目前大多数产品都采用了一种基于软件的方法,但该方法无法满足高带宽、广播级视频流的处理要求。视频流和/或云服务提供商面临着由基于软件的解决方案所带来的低吞吐量、高功耗、长延迟和占用空间大等挑战。根据思科的一份题为《思科可视网络指数:预测与趋势——2017-2022年白皮书》的报告,视频流数据流量正在增加,并且到2022年时将占据整个互联网数据流的82%。在包括视频点播、流媒体直播和视频监控等所有应用中,视频数据流量将逐年稳步增长。Uj6ednc

诸如Netflix和YouTube等视频流应用的兴起推动了对视频转码的需求。传统广播和视频流媒体之间最显著的区别在于内容量和频道数。为了支持从电脑到智能手机等各种接收设备,内容必须被转码成不同的分辨率和压缩格式。因此,视频流将消耗大量的计算资源。Uj6ednc

Uj6ednc

2视频转码工作流程Uj6ednc

Acquisition:获取Uj6ednc

content creator dramatically growing:内容创作者的数量在急剧增加Uj6ednc

Editing:编辑Uj6ednc

Uploading:上传Uj6ednc

Streaming Company:流媒体公司Uj6ednc

Cloud Service Provider:云服务提供商Uj6ednc

Transcoding:转码Uj6ednc

different compression:不同的压缩率Uj6ednc

different resolution:不同的分辨率Uj6ednc

different bitrates:不同的比特率Uj6ednc

Distribution:发布Uj6ednc

iPhone:iPhone手机Uj6ednc

Andriod:安卓手机Uj6ednc

PC Browser:电脑浏览器Uj6ednc

流媒体和云服务提供商需要一种解决方案来缓解对计算需求的压力。Achronix Speedster®7t系列FPGA器件中搭载了IBEX这种最先进的视频处理半导体知识产权(IP)能够解决这一重大问题。这种基于FPGA的解决方案可以提供高吞吐量的、低功耗的和占用空间小的系统,而且无需牺牲灵活性。尽管基于ASIC的解决方案功能强大,但只能支持在设计时定义的功能集,而不能支持现场更新。Uj6ednc

视频内容创作

在过去,高清分辨率(HD)格式在视频内容创作中占据主导地位。最近,标准分辨率已被提升至4K,甚至到8K,这使得视频编码或解码面临挑战。用于这些较高分辨率的压缩格式主要有Apple ProRes、Avid DNx和SONY XAVC。由于这些压缩格式是专有的,因此ASIC或GPU并不能原生支持这些格式,而且CPU提供的性能也不佳。因此,在较高分辨率下创作视频内容时,FPGA是最佳的解决方案。Uj6ednc

Uj6ednc

3视频编辑工作流程Uj6ednc

Import:导入Uj6ednc

Editing Software:编辑软件Uj6ednc

Import(Decode):导入(解码)Uj6ednc

Export(Encode):导出(编码)Uj6ednc

Remote Edit:远程编辑Uj6ednc

Export:导出Uj6ednc

在新的趋势下,远程后期制作的概念正变得越来越普遍。然而,现有的电脑并没有足够的能力来实时处理高分辨率的内容(例如8K)。因此,编辑人员开始借助云基础设施来获得更好的计算性能。此外,由于需要保持社交距离,新冠肺炎疫情也加速了这一趋势。基于云和FPGA的解决方案为编辑人员提供了巨大的好处。Achronix Speedster7t系列FPGA器件进行架构创新,例如二维片上网络(NoC),使其特别适合于加速编码和解码算法。Uj6ednc

人工智能与深度学习

人工智能、机器学习和深度学习是众所周知的领域,它们在过去几年中得到了迅速的发展。除了这些领域,图像识别也逐渐成为一个全新的重要领域,这得益于人工智能/机器学习(AI / ML)的创新。例如,先进驾驶员辅助系统(ADAS)使用深度学习算法来处理捕获的图像。安装在车上的行车记录仪使用H.264压缩技术记录视频,然后将视频流转码为诸如JPEG或PNG等合适的图像格式,以用于深度学习图像识别。根据应用场景,可以同时完成丢帧、更改分辨率或其他图像处理任务。Uj6ednc

在零售业的安全摄像头或物流业的包裹分拣中也有类似的应用案例,其数据流与上述示例相同 —— 这些应用中的摄像头使用H.264或H.265等压缩比相对较高的压缩格式记录视频,然后将编码的视频流传输到云端或数据中心。在云端,视频流由原始格式转码为适合深度学习的格式,将视频文件转换为图像资料库。Uj6ednc

Uj6ednc

4典型的深度学习图像数据流Uj6ednc

Transcoding:转码Uj6ednc

Different compression:不同的压缩率Uj6ednc

Video=Image:视频=图像Uj6ednc

AI:人工智能Uj6ednc

Deep Learning:深度学习Uj6ednc

Image Recognition:图像识别Uj6ednc

从历史来看,FPGA一直擅长将电影转码为图像。此外,使用FPGA中的深度学习算法对图像预先进行预处理,不仅可以提高吞吐量,而且还能减少系统级的数据事务量。Achronix Speedster7t的创新架构及其带有的专用机器学习处理器(MLP),使之成为实现定制的和既定的深度学习算法的理想选择。Uj6ednc

FPGA代表性视频用例的性能

我们分别使用FPGA和CPU来实现上述三个典型应用案例,并对一些关键指标进行对比,如下表所示。Uj6ednc

2FPGACPU性能比较Uj6ednc

压缩格式   编码器 解码器 备忘录

H.264, H.265Uj6ednc

典型参数 典型参数表示8位、420、2K。英特尔QSV、GPU硬核功能仍然强大,尤其是在编码器端。
次要参数 次要参数表示10位、422、3K或5K。英特尔QSV、GPU硬核不支持它。
帧内 专有编解码器,诸如Apple ProRes、Avid DNx、SONY XAVC、Panasonic AVC-Intra。图像格式,诸如JPEG和PNG等。

表注Uj6ednc

↑ FPGA提供更佳的性能。Uj6ednc

↔ FPGA和CPU提供同等的性能,但FPGA是卸载CPU负担的首选解决方案。Uj6ednc

↓ FPGA和CPU提供同等的性能,但CPU是首选解决方案。Uj6ednc

视频流传输

在视频流传输应用中,常用的压缩格式是H.264或H.265,因为终端(接收端)设备原生支持这些格式。诸如位深或色度和分辨率等参数通常为8位、4:2:0和1920×1080或1280×720。在解码器方面,基于FPGA的实现比基于CPU的系统提供更高的吞吐量。在数据层面,FPGA效率更高,因为如果将CPU用于纯数据处理之外的其他任何与数据相关的任务时,它通常都没有得到充分的利用。然而在编码器方面,硬化的CPU编码器内核是专门针对这些典型参数而设计的,并提供了足够的性能。Uj6ednc

为了获得两全其美的效果,将FPGA和CPU解决方案相结合,并由FPGA来处理繁重的工作负载是理想的解决方案。FPGA上的高效功能可以被移植到可重新配置的硬件上去运行。例如,运动估计算法是一种适合FPGA的工作负载。另一方面,CPU更适合处理比特率控制算法。Uj6ednc

一些服务提供商要求在软件解决方案中实现与x264相同的视频质量和流媒体格式。FPGA和CPU的组合解决方案可以有效地满足这些要求。使用这种方法,每种功能都被合理地分配,较繁重的处理负载被转移到FPGA,与纯软件解决方案相比,这种方法能提供类似或更好的视频质量和流媒体格式,而且编码时间显著减少。Uj6ednc

下表列出了使用这种方法的x264评测结果,第一行显示了在FPGA上的运动估计函数(x264_8_me_search_erf)的结果。运动估计是CPU最繁重的工作负载之一,占据总处理时间的21.2278%。Uj6ednc

3x264评测结果(通过评测软件获得)Uj6ednc

样本 百分比 符号名称
3679706 21.2278 x264_8_me_search_ref
2078100 11.9883 x264_8_pixel_ads_mvs_ssse3
1453998 8.3880 x264_8_pixel_sad_x3_8x16_sse2
1176121 6.7849 x264_8_picel_sad_x3_16x16_avx2
1156301 6.6706 x264_8_pixel_sad_x3_8x8_sse2
1095731 6.3211 x264_8_pixel_ads2_avx2
868943 5.0128 x264_8_pixel_sad_x3_16x8_avx2
779812 4.4986 x264_8_pixel_ads1_avx2
318990 1.8402 x264_8_pixel_ads_avx2
275943 1.5919 x264_8_quant_4x4_trellis
255712 1.4752 x264_8_trellis_cabc_4x4_psy_ssse3
231397 1.3349 x264_8_pixel_satd_8x8_interval_avx2
187422 1.0812 x264__8_mc_chroma_avx2
168559 0.9724 x264_8_pixel_satd_16x8_interval_avx2
168484 0.9720 x264_8_pixel_sad_8x8_mmx2

视频内容创作

用于内容创作的视频编辑软件支持多种压缩格式,其中包括Apple ProRes、Avid DNx、Sony XAVC和Panasonic AVC-Intra,这些格式都带有基于内帧结构的专有压缩方案。此外,还有一些支持RAW模式的格式,诸如Apple ProRes RAW、RED RAW、ARRI RAW和Blackmagic RAW,这些格式都得到了摄像机制造商的支持。由于这些格式(以及新型的和不断出现的格式)具有不断变化的特性,因此基于ASIC的解决方案并不实用,而需要基于FPGA的解决方案。Uj6ednc

在过去,主要的分辨率为HD/2K,CPU具有足够的速度来处理这些视频流。但是,随着4K或8K分辨率变得越来越普遍,仅靠CPU加软件的解决方案不能够提供实时处理。另一方面,基于FPGA的解决方案可以轻松地实时处理4K和8k分辨率视频。Uj6ednc

内部基准测试表明,即使与中级FPGA芯片相比,基于FPGA解决方案的处理速度也比最新的CPU加软件解决方案快五倍。虽然GPU可以提供与FPGA类似的性能,但其功耗更高、解决方案占用空间更大。Uj6ednc

Uj6ednc

5使用CPU(无FPGA卸载)的处理方案性能Uj6ednc

FPGA解决方案的好处不仅仅在于加速,而且还能降低CPU的繁忙程度。在只有CPU的解决方案中,所有CPU周期都被4K或8K内容的编码所消耗,而使用FPGA来卸载编码任务可以释放CPU周期。因此,FPGA加速器为该应用提供了最佳的解决方案,通过减少4K和8K视频制作所需的处理时间,来提高视频编辑人员的创作效率。Uj6ednc

Uj6ednc

6使用FPGA卸载CPU利用Uj6ednc

人工智能与深度学习

如前所述,在处理H.264/H.265解码方面,FPGA提供了与CPU相当或更高的性能。如果解码器和内帧编码器(例如JPEG或PNG)都位于同一FPGA中,那么基于FPGA的解决方案将提供比CPU更佳的性能。此外,在深度学习应用中,在将图像数据发送到深度学习处理之前,通常会进行一些图像预处理。在同一个FPGA上可以执行所有的处理,包括解码、图像处理和编码等(如图7所示),并且与CPU相比,FPGA可以提供高吞吐量、低延迟和更少的数据事务。深度学习技术在现在和未来都将被广泛应用于各个行业或领域,而基于FPGA的解决方案将助力这一发展。Uj6ednc

Uj6ednc

7使用深度学习进行视频和图像处理的典型数据流Uj6ednc

Decoding:解码Uj6ednc

Image Processing:图像处理Uj6ednc

Encoding:编码Uj6ednc

针对性能而优化的Speedster7t架构

Speedster7t FPGA是专为满足最高性能的数据加速应用而设计的,该架构非常适合解决本白皮书中提到的所有应用挑战。具体而言,Achronix开发了一种全新的创新型二维片上网络,它力助在I/O带宽、外部存储带宽和片上性能之间提供一种平衡架构,以确保总体最高的吞吐量。在传统的FPGA架构中,用户需要设计电路来连接加速器,从而导致并不理想的布局和布线。现在更新的FPGA架构使用一种网络,在逻辑阵列内的处理单元与各种片上高速接口和存储器端口之间传输数据流(如图8所示)。Uj6ednc

Uj6ednc

8在传统FPGA架构中连接加速器Uj6ednc

Status Control:状态控制Uj6ednc

Parameters:参数Uj6ednc

Address decode and routing:地址解码和布线Uj6ednc

Back pressure:背压Uj6ednc

Request arbitration:请求仲裁Uj6ednc

Response arbitration:响应仲裁Uj6ednc

Response back pressure:响应背压Uj6ednc

Response routing:响应布线Uj6ednc

Accelerator:加速器Uj6ednc

Uj6ednc

9先进的FPGA减少了所需的电路Uj6ednc

硬连线架构极大地改善了处理的延迟和能效,但是缺乏应对需求变化的灵活性。Speedster7t系列FPGA器件中的第一款芯片AC7t1500提供了一系列高速接口,包括可分配的(fracturable)以太网控制器(支持高达400G的速率)、PCI Gen 5端口和多达32个SerDes通道,速率高达112 Gbps。AC7t1500器件是首款部署多通道GDDR6存储器接口的FPGA,它满足了需要高速缓存海量数据的编码器的需求。除了在可编程逻辑阵列中采用的面向位的布线结构外,这些外围设备还通过一个智能二维片上网络进行互连。因此,Speedster7t FPGA是第一款能够实现上述视频处理用例的器件,该FPGA器件利用一种平衡架构,在计算密度和数据传输能力方面带来重大改进。Uj6ednc

Speedster7t架构通过提供总带宽超过20 Tbps的多级片上网络(NoC)层级化结构,消除了由于需要将高速I/O通道直接连接到以较低时钟速率运行的可编程逻辑所造成的瓶颈。与采用FPGA逻辑阵列实现互连方式相比,NoC不仅在速率上有了大幅的提升,而且NoC还能在不消耗任何FPGA可编程资源的情况下传输大量数据。内部NoC不仅提供了更高的带宽,而且Speedster7t FPGA中的智能连接机制也简化了将数据从NoC端口传输到逻辑阵列中的任务。Uj6ednc

这种架构可支持进一步的设计创新,例如支持上述机器学习用例的面向矩阵的算术单元。通过使用诸如深度学习或较为简单的统计方法等技术,设备可以分析数据流的模式,以观察和增强数据包在网络中的传输,并对不断变化的情况做出快速反应。概括而言,以下三项Speedster7t的架构创新为上述用例提供了更好的FPGA设计:Uj6ednc

高速存储接口

Speedster7t架构师对存储接口的选择反映出了以太网和NoC连接可提供的巨大带宽。一种可能的方法是在一系列产品设计中采用即将推出的HBM2接口。尽管这样的接口可以提供所需的性能等级,但HBM2是一种价格昂贵的选择,这将迫使客户去等待必要的组件和集成技术进入市场。Uj6ednc

与此不同,Speedster7t系列则采用了GDDR6标准,该标准为当今片外存储器提供了最高的性能。Speedster7t FPGA是市场上首款支持该接口的器件,每个片上GDDR6存储控制器可维持512 Gbps的带宽。在单个AC7t1500器件中最多可带有八个GDDR6控制器,因此一个Speedster7t FPGA器件可提供高达4 Tbps的总存储带宽。Uj6ednc

对PCIe Gen 5的支持

除了以太网和存储控制器,Speedster7t FPGA上提供的对PCIe Gen 5的支持还能够与主机处理器紧密集成,以支持高性能加速器应用。PCI Gen 5控制器使其能够读取和写入存储在FPGA存储层级结构中的数据,包括许多位于逻辑阵列内的块RAM,以及连接到FPGA存储控制器的外部GDDR6和DDR4 SRAM。在FPGA逻辑阵列中实例化的数据传输控制器(例如DMA引擎),可以类似地通过PCIe Gen 5总线访问与主机处理器共享的内存。无需消耗FPGA逻辑阵列内的任何资源即可实现这种高带宽连接,并且设计时间几乎为零。用户只需启用PCIe和GDDR6接口,即可通过NoC发送事务数据。Uj6ednc

PCIe子系统与任何GDDR6或DDR4存储接口之间的直接连接如下图10所示。Uj6ednc

Uj6ednc

10无需消耗FPGA逻辑阵列即可实现PCIeGDDR6之间的数据传输Uj6ednc

机器学习处理器(MLP)

对于计算密集型任务,在Speedster7t FPGA上部署的Speedster7t机器学习处理器(MLP)是灵活的且可分配的算术单元。机器学习处理器是高密度乘法器阵列,带有支持多种数字格式的浮点和整数MAC模块。机器学习处理器带有集成的存储模块,可以在不使用任何FPGA资源的情况下执行操作数和存储级联功能。机器学习处理器适用于一系列矩阵数学运算,从5G无线电控制器的波束成形计算到加速深度学习应用,如视频处理系统所需的数据流模式和数据包内容分析。Uj6ednc

Uj6ednc

11机器学习处理器原理框图Uj6ednc

结论

虽然ASIC的性能通常很高,但它只支持设计时设想的功能集,不能进行现场升级;CPU是最灵活且最易于设计的,但是其时钟频率已经难以提升,其性能大幅提升的时代已经结束;随着工作负载逐年增加,CPU已无法满足需求。FPGA在性能和灵活性之间提供了良好的平衡。由于需要大量的并行处理,因此视频编码、解码和图像处理算法都更适合于用FPGA来实现。总之,基于FPGA的解决方案可以缩短上市时间,具有高度的可定制性,并且可以有效地用于实现不断发展的算法。Uj6ednc

IBEX Technology公司简介

IBEX Technology公司总部位于日本,可提供视频编解码IP、IC设计服务和咨询,诸如ASIC和大规模FPGA设计、PCB等。IBEX开发了多种视频编解码器,诸如MPEG-2、H.264 / AVC、Apple ProRes、Avid DNxHD、SONY XAVC、Panasonic AVC-Intra和H.265 / HEVC。IBEX Technology公司主要在广播设备行业有着良好的业绩记录,这得益于其产品的高质量、稳定性和可靠性。Uj6ednc

IBEX于1985年在日本神奈川县(Kanagawa)厚木市(Atsugi)成立,是公认的大规模集成电路(LSI)和视频系统设计领域的领导者。过去,IBEX的主要用户包括日本电视机制造商和广播公司,并为ASIC厂商提供了视频编解码器IP。在过去的十年中,由于FPGA的性能和成本竞争力,该公司的重点已转向提供基于FPGA的解决方案。IBEX面向全球用户提供FPGA IP。Uj6ednc

版权所有©2020 Achronix半导体公司保留所有权利。Achronix、Speedcore、Speedster和ACE是Achronix半导体公司在美国和/或其他国家/地区的商标。所有其他商标均为其各自所有者的财产。所有规格如有更改,恕不另行通知。Uj6ednc

免责声明

本文件中所提供的信息被认为是准确和可靠的。但是,Achronix半导体公司不对此类信息的完整性或准确性作出任何声明或担保,并且对于使用本文包含的信息不承担任何责任。Achronix半导体公司保留随时更改本文件及其所含信息的权利,恕不另行通知。所有Achronix商标、注册商标、免责声明和专利均在网站上列出http://www.achronix.com/legalUj6ednc

本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了