广告

地平线张永谦:AI在边缘侧落地背后的思考

2019-11-08 夏菲 阅读:
“边缘侧智能设备大规模爆发的趋势,使数据成为如今AI芯片领域最大的挑战。”2019年11月7日,在由ASPENCORE《电子工程专辑》、《国际电子商情》和《电子技术设计》主办的“2019全球双峰会”上,地平线副总裁&AIOT芯片方案产品线总经理张永谦以“边缘AI芯片赋能行业,共建普惠AI时代”为题,介绍了地平线机器人在边缘AI芯片以及解决方案,以及地平线对AI在边缘侧落地背后的思考。

“边缘侧智能设备大规模爆发的趋势,使数据成为如今AI芯片领域最大的挑战。”2019年11月7日,在由ASPENCORE《电子工程专辑》、《国际电子商情》和《电子技术设计》主办的“2019全球双峰会”上,地平线副总裁&AIOT芯片方案产品线总经理张永谦以“边缘AI芯片赋能行业,共建普惠AI时代”为题,介绍了地平线机器人在边缘AI芯片以及解决方案,以及地平线对AI在边缘侧落地背后的思考。B2qednc

数据显示,目前在边缘侧,99%的数据都是没有被经过智能化处理或者是结构化处理的,而这些没有被利用起来的数据就成为了垃圾数据。如果把这一部分数据送到云端进行智能处理,则需要付出非常大的代价,这其中不仅包括传输带宽,还有云端为处理这么多海量数据所付出的代价。B2qednc

此外,5G大潮已开始在中国落地,5G对于单位面积之内的设备的接入数量,包括接入带宽比4G高了一个量级,这也进一步加剧了边缘侧数据和比较有限也比较难以实现的骨干网处理能力之间的矛盾。B2qednc

因此,能够处理上述矛盾,且具有非常好的隐私保护性的边缘计算便成了大势所趋。B2qednc

在边缘侧如何快速智能处理大量数据?

在边缘侧做快速智能处理大量数据,是当下主攻AI芯片和计算芯片领域的玩家们集中攻坚的难题。而边缘侧的AI芯片也已成为市场非常抢手的产品,仅仅在国内范围内,对外宣称做AI芯片的公司就已达到50-100家的规模。B2qednc

张永谦表示:“地平线从成立之初到现在,对于AI芯片的看法与传统芯片公司的看法是非常不一样的,我们的理念首先是软硬结合。传统的半导体讲的几个参数无疑就是PPA:功耗、性能和成本。智能时代,光靠这几个参数是不够的,还需要更多的参数综合的能量什么是好的AI芯片。”B2qednc

003ednc20191108.jpgB2qednc

据了解,目前市场上常见的基本都是在大力宣传单位面积下的功耗,以及芯片能所提供的峰值的计算能力,如一个芯片宣称是1T或者是4T。但张永谦认为,这样还不够:“就像一个处理器一样,它大部分处理的时候,处理单元是空闲的,这个只是空耗和性能的浪费”。B2qednc

张永谦表示:“我们要看第二个重要指标,就是在峰值算力典型场景的计算情况下的有效利用。有效利用率之后还不够,因为现在要面对的是AI场景,这个场景其实是非常复杂的,还要再看在有效的计算能力输出的情况下,你能达到对复杂场景处理的效果。把这几个参数相乘,才能衡量边缘侧AI芯片最客观的指标。”B2qednc

004ednc20191108.jpgB2qednc

地平线不止一次地在公开场合表示,未来人工智能的竞争一定是“软硬结合”,要想真正的做好软件,一定要做好硬件。地平线的芯片在设计之初,也是先有软件,再有硬件。B2qednc

据张永谦介绍,地平线的一款处理器,在没有做任何优化的情况下,对720P图像做AI处理,它的计算资源利用率可以达到33.9%,每秒处理9.36帧,比通用GPU处理器的利用率高不少,即便如此,地平线仍在进一步探索。B2qednc

002ednc20191108.jpgB2qednc

中间的彩色条是处理单元,上下是存储单元B2qednc

左图显示,在没有经过软硬结合优化前,计算单元是被不停的打断,需要频繁的读取外部的存储,频繁往里输数据。右图则是经过软硬结合的优化之后,计算的有效利用率被大大提高了,计算单元利用率可以达到85%,帧率处理速度达到了24帧/秒,在大大降低跟外部存储交换频率的同时,效率得到了大大的提升,地平线这就是地平线的“软硬结合”。B2qednc

张永谦表示:“也正是因为这一点,过去40年人类的快速发展重要退守就是摩尔定律,但是摩尔定律更多是强调着硬件创新,是工艺。我们的理念是在传统摩尔定律即将走到尽头的时候,通过软硬结合的方式可以继续推动摩尔定律,在下一个20年仍然快速的发展。”B2qednc

AI芯片企业如何应对AIoT碎片化挑战?

AIoT覆盖范围包括百行百业,因此它的场景呈现大量碎片化的特征,无论是世界五百强还是中国的五十强这种行业巨无霸企业,都很难应对这种大量碎片化的高难度挑战,那么AI芯片企业要如何面对这种小市场量、大量碎片化的挑战呢?张永谦从五个层面进行了分析:B2qednc

1、AI产品形态种类非常多。有摄像头、带屏设备、机器人、智能家电、边缘侧计算设备。这么多AI产品形态如何的产品化,并实现很好的AI能力?非常不容易。B2qednc

2、图像和场景的效果繁杂。线下AI面临的挑战是每个场景不可复制的,今天解决方案也好、场景也好,在这里可以很好的输出结果,但是换了一个天气、换了一个场景,很可能就不灵了。怎么样把方案做到更加普世化?这是非常大的挑战。B2qednc

3、怎么样快速的开发上层智能应用,真正把AI能力服务落地。B2qednc

4、如何快速把硬件做出来。地平线在落地的过程中发现,原来做硬件的厂商以及做软件服务的厂商,甚至是做系统集成的公司都在进入这个行业,并迫切希望把智能化的产品做出来,再跟原有的能力结合。在这种四面八方的企业都抢食蛋糕的场景下,怎么样快速把硬件做出来,这是很多创业公司甚至是老牌公司巨大的挑战。B2qednc

5、如何做到完整的系统集成。地平线推出旭日1.0时,主推的是AI芯片及基础算法,但后来发现发展遇到瓶颈,怎么解决呢?张永谦表示:“我们把解决方案做得更加重。首先是怎么应对多样化的产品形态。我们经过思考,挑选了其中3种可能是在未来2-3年最先落地、量最大的产品,最先是智能RPC、带屏近距离交互产品和可以克服前端不确定性的边缘计算核,我们选择了这三种智能产品的形态作为开发解决方案的入手点。选取了之后再就是软件架构,并编成统一的框架,方便我们做解决方案的开发,也能让开户在不同的产品形态上快速的迁移,同时支持端和边缘。”B2qednc

面对以上五大挑战,地平线提出了“底层赋能”的理念,在底层赋能的上面是下了非常多的功夫,对外不仅宣称是AI芯片公司,更本质是算法+芯片,软硬结合的底层,包括解决方案服务客户。B2qednc

007ednc20191108.jpgB2qednc

而在面对非常多的行业落地的应用、项目等机会的诱惑下,地平线也坚持一个理念,张永谦表示:“我们不做行业应用,并不和所赋能的合作伙伴、客户竞争,就是把底层的东西做得更好,然后更好的赋能他们,让AI特别是边缘侧的AI实现落地,最后实现普惠AI的效果。”B2qednc

AI芯片+算法基础,加速边缘侧AI落地

2015年7月14日,中国第一家AI芯片公司地平线成立,率先提供软硬结合BPU架构。也是全球第一家在台积电实现了流片的AI芯片公司。B2qednc

2017年底,地平线发布了中国第一款AI芯片,它有两个系列,一个是面向自动驾驶的征程系列,另一个是面向AIot的旭日系列。B2qednc

2018年4月征程芯片登陆美国顶尖Robotaxi车队,到2018年年底,旭日一代落地首年,全球出货量达到6位数。B2qednc

005ednc20191108.jpgB2qednc

今年8月30日地平线发布了第一款车规级芯片——征程二代,张永谦在ASPENCORE 2019 全球CEO峰会现场透露,明年和后年会地平线将陆续发布J2A和J3,真正意义上车规级的智能驾驶芯片。B2qednc

10月29日,地平线推出采用28纳米工艺的旭日二代边缘AI芯片及一站式全场景芯片解决方案,瞄准AIoT智能应用市场。张永谦在ASPENCORE 2019 全球CEO峰会现场表示,地平线将于明年发布第三代旭日产品。B2qednc

006ednc20191108.jpgB2qednc

除了设计AI芯片之外,地平线也在花非常大的资源和力气来做工具链,张永谦表示:“工具链就是让有能力的客户有自己的数据,可以在地平线已经提供的一套标准的、软硬结合的AI芯片的框架上,包括提供的基础算法模型上,他们可以针对自己看重的差异化的场景、垂直化的场景,用自己的数据训练自己的模型,就是把地平线提供的东西和差异化的内容结合在一起,这样的效率更高。”B2qednc

此外,张永谦表示,地平线在AI芯片+算法基础上做了更进一步的努力,针对典型行业的典型场景做了大量的解决方案,通过这个方式大大加速了边缘侧AI落地。B2qednc

本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
夏菲
电子技术设计(EDN China)助理产业分析师
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • Microchip模拟嵌入式SuperFlash技术助力存算一体创新 SuperFlash memBrain存储器解决方案使知存科技片上系统(SoC)能够满足最苛刻的神经处理成本、功耗和性能要求
  • 用TinyML开始设计——开发评估套件 本文中展示的开发套件和评估板得到一些流行的机器学习库和用于 TinyML 工作流程资源的支持,包括用于微控制器的 Google TensorFlow Lite 和 Edge Impulse,因而它们能够成为您第一个项目的理想起点。
  • “中国IC设计成就奖”提名产品简介:高性能GPU芯片及解 沐曦致力于提供国际顶尖的高性能通用GPU芯片及解决方案,结合我国人工智能等领域对GPU芯片的强烈市场需求,对标当前国际领先的GPU芯片产品立项开展技术研发。
  • “中国IC设计成就奖”提名产品简介:全志科技高性能智能 高性能三重异构智能语音应用处理器R329芯片,采用业界先进的半导体工艺,首款集成Arm中国周易语音处理器。集成DSP、NPU、64位CPU及丰富的外设接口,创新突破了低功耗、边缘语音AI超级算力、多重异构通讯、多核调度等关键技术,处于国内领先水平。
  • “中国IC设计成就奖”提名产品简介:追萤3D AI芯片Ai310 埃瓦科技自主研发的追萤 3D AI芯片创新的采用了异构架构 SOC 设计和微内核架构设计,包含 NPU 神经网络加速核、3D 立体匹配加速核、ISP 核等功能性处理核心;其中 NPU 神经网络加速核基于可重构以及片上多级存储和缓存设计,使数据可高效送达加速核心,使该芯片拥有领先的高效智能处理能力、分析以及低功耗管理的能力;其设计架构的资源复用性使硬件计算单位可灵活分配,适应于不同场景的计算需求;在 3D 视觉算法加速方面创新的采用了自研立体匹配算法的 3D 加速微内核架构设计,可有效加速双目立体视觉、结构光等多种 3D 视觉算法。
  • “中国IC设计成就奖”提名产品简介:ada200优势 1.九天睿芯,感存算一体芯片,可以在功耗和性能满足”低功耗AI场景“的同时,成本也大幅度下降。2.采用模数混合的存内计算架构,ADA200相比传统数字芯片,1/3成本,1/10功耗。
  • “中国IC设计成就奖”提名产品简介:面向边缘视觉分析的 面向边缘视觉分析的数据流AI芯片CAISA是鲲云科技自主研发的专为人工智能图像提供高性能计算加速的AI芯片产品,是全球首个量产的数据流AI芯片。
  • “中国IC设计成就奖”提名产品简介:人工智能语音芯片CI 1、人工神经网络硬件引擎架构:具备高计算性能,进行神经网络计算时相当于数十个CPU并行计算的能力;低访问带宽和低功耗,通过并行计算和共用神经元权重参数,大幅降低访问带宽及功耗;高可配置性,支持神经元层数和节点数、神经网络结构的配置。 2、单、双、及麦克风阵列降噪增强技术:支持各种平稳、非平稳环境噪声抑制;可支持线阵、圆阵结构等常用麦阵结构;采用定向波束形成与自适应信号处理技术相结合;拾取方向动态可调;支持单声道、立体声等回声抑制;采用独立研发的空间预测技术,支持强回声情况下回声抑制;与降噪处理技术相结合;自动增益调节、高通、带通滤波等。 3、低功耗和可靠性设计技术:具备低功耗集成电路设计技术,包括基于活动语音检测的低功耗控制技术和时钟门控技术。 4、逻辑设计技术:掌握了语音信号处理IP的设计方法,包括算法硬件化、定点、浮点运算处理等。同时积累了整套SoC设计所需的控制类IP,并成功通过流片验证。
  • “中国IC设计成就奖”提名产品简介:智能安防AI SoC芯片 亿智SV826是2021年推出的高性能的安防AI SoC芯片,主要面向视频编解码AI摄像机产品。
  • “中国IC设计成就奖”提名产品简介:高性能大算力全场景 - AI性能跑分更强,超越Nvidia Orin - 应用当前先进的安全技术和研发流程 - 国内唯一可获得、支持快速量产的整车智能计算平台芯片
  • “中国IC设计成就奖”提名产品简介:玉龙人工智能芯片Yu 玉龙(YULONG)是欧比特公司推出的新一代嵌入式人工智能系列处理器芯片,是目前市面上唯一的军用级人工智能芯片,并且实现了自主可控国产化生产。芯片聚焦于前端图像处理、前端信号处理和智能控制,芯片具有深度学习、神经网络算法的平台加速能力。Yulong810APro芯片为异构多核架构(CPU+AI加速器),采用FD-SOI生产工艺,具有高性能、高可靠、低功耗的特点,芯片面向航空航天、智能安防、机器人、AIoT、智能制造、智慧交通等应用场景。
  • “中国IC设计成就奖”提名产品简介:智能图像芯片TX510 TX510是一款面向IoT设备的超低功耗视觉处理芯片,以可重构架构,实现高性能计算,低功率消耗的超强能效比,峰值算力达2TOPS。芯片支持AlexNet、GoogleNet、ResNet、VGG、Faster-RCNN、Yolo、SSD、FCN和SegNet等主流神经网络;内置3D引擎,可实现人脸识别、物体识别、手势识别、目标跟踪等功能,可应用于智能安防监控、智能家居、新零售等领域。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了