广告

阿里发布最强AI芯片:性能“吊打”同行,一块顶十块GPU

2019-09-25 网络整理 阅读:
阿里发布最强AI芯片:性能“吊打”同行,一块顶十块GPU
发布含光800芯片时,张建锋拿出一张芯片展示,称“这个芯片真的非常大”。张建锋表示,“含光800”是阿里平头哥成立后首款正式流片的芯片,并称含光800性能“吊打”同行。

刚刚,在阿里2019云栖大会上,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋发布了阿里的首款AI芯片“含光800”。X8Uednc

这是一款云端AI推理芯片,峰值性能为7.8万IPS(每秒能处理7.8万张照片),峰值能效达到500IPS/W,张建锋表示,这是全球最高性能的AI推理芯片,一块“含光800”相当于10块GPU。X8Uednc

003ednc20190925X8Uednc

据了解,含光800主要应用于视觉场景,已经在阿里巴巴集团内多个场景大规模应用,其它企业可以通过阿里云获得含光NPU的算力。X8Uednc

性能“吊打”同行,一块顶10块GPU

发布含光800芯片时,张建锋拿出一张芯片展示,称“这个芯片真的非常大”。X8Uednc

004ednc20190925X8Uednc

张建锋表示,“含光800”是阿里平头哥成立后首款正式流片的芯片,并表示含光800性能“吊打”同行。X8Uednc

据达摩院介绍,在业界标准的ResNet-50测试中,含光800推理性能达到78563 IPS,比目前业界最好的AI芯片性能(第二名:15012)高5倍;能效比500 IPS/W,是第二名的3.3倍,张建锋称:“含光800是阿里巴巴在芯片领域的万里长征第一步。”X8Uednc

005ednc20190925X8Uednc

据张建锋称,这是全球最高性能的AI推理芯片,一块含光800相当于10块GPU。X8Uednc

据了解,不同于基于冯·诺依曼架构的传统通用处理器,含光800根据神经网络推理运算特征,设计特定的硬件神经元、高速连接的存储结构以及专用指令集,对内存和计算单元实现高效组织管理,实现单条指令完成多个操作,提高计算效率和内存访问效率。X8Uednc

006ednc20190925X8Uednc

在杭州城市大脑里,视频实时处理使用GPU需要40块,延时300ms,单路视频功耗2.8W;而使用含光800仅需4块,延时150ms,单路视频功耗1W,有效节约了硬件和时间成本。X8Uednc

不过,阿里在现场并没有给出Tops、功耗等数据,也没有给出对标的GPU具体品牌与产品线,让这对比的参数多少有些不明确。X8Uednc

从设计到流片只用了一年半时间

张建锋表示,这块芯片从设计到流片只用了一年半时间。X8Uednc

据了解,平头哥用7个月完成了前端设计,之后用3个月就成功流片。仅成立一年的平头哥半导体为何这么快就能设计出云端AI芯片?X8Uednc

007ednc20190925X8Uednc

要知道,芯片作为典型的长周期产品,想加速芯片的商用,在硬件和软件方面都需要有很强的实力,特别是在AI时代,软硬一体化的重要性更加突显。平头哥就得益于阿里在软硬件方面的积累:X8Uednc

算法方面,阿里巴巴达摩院机器智能实验室过去两年构建了完整的算法体系,涵盖语音智能、语言技术、机器视觉、决策智能等方向,并且取得多个世界领先水平的成果;硬件方面,阿里巴巴此前已在服务器、FPGA以及存储等领域拥有多年研发经验,此外,平头哥团队在体系结构、编译技术等领域拥有深厚的技术储备。X8Uednc

含光800性能的突破得益于软硬件的协同创新,芯片架构方面,含光800采用创新的架构,针对深度学习中使用的大量权重参数和张量数据,在支持稀疏压缩与量化处理的基础上,通过独特设计的数据访存与流水线处理技术,大大减低了I/O需求和数据的搬移。NPU同时深度优化了卷积,矩阵乘,向量计算和各种激活函数,通过高有效的硬件资源调度和全并行的数据流处理,把AI运算的性能和能效都推向极致。X8Uednc

其中,性能的提升必须解决内存墙问题。所谓的内存墙,是指采用采用冯诺依曼结构的处理器,存储和运算处理分离,当进行深度神经网络处理时,算力得到了提升,但大量读写运行操作会受到带宽限制,芯片的整体性能提升也同时受到限制。X8Uednc

平头哥的做法是通过自研架构大幅减少对内存的访问,在保证性能的情况下,把芯片功耗降到最低水平。具体而言,含光800会根据神经网络推理运算特征,设计特定的硬件、高速连接的存储结构以及专用指令集,对内存和计算单元实现高效组织管理,实现单条指令完成多个操作,提高计算效率和内存访问效率。X8Uednc

已应用于阿里巴巴集团内多个场景

据了解,目前,含光800已应用于阿里巴巴集团内多个场景,例如视频图像识别/分类/搜索、城市大脑等,未来还可应用于医疗影像、自动驾驶等领域。X8Uednc

比如,拍立淘商品库每天新增10亿商品图片,为了让用户快速从海量图片中精准搜索到商品,需要强大的计算力支撑,使用含光800搜索效率可提升12倍,时间从传统通用GPU的1小时缩减至5分钟。X8Uednc

过去半年,平头哥先后发布玄铁910、无剑SoC平台。随着含光800的发布,平头哥端云一体全栈产品系列初步成型,涵盖处理器IP、一站式芯片设计平台和AI芯片,实现了芯片设计链路的全覆盖。X8Uednc

张建锋说,这块芯片只是阿里万里长征第一步,今天阿里有足够的信心、能力,把传统硬件公司能做到的、不能做到的都做到。未来,阿里成为软硬件一体化协同发展的公司。X8Uednc

责编:Demi XiaX8Uednc

(综合整理自澎湃新闻、智东西、雷锋网等)X8Uednc

本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 核酸检测需要用到哪些应用器件? PoC分子诊断技术可以帮助医生在患者首次就诊时快速做出诊断和治疗决策,患者无需等待数天才能获知检测结果,从而提高了医疗水平。本文将简要介绍这种检测方法,并详细介绍此类仪器主要模块中的一些实际应用器件。
  • 多功能LED驱动器可使用高于或低于LED灯串电平的输入电 本文介绍如何选择合适的拓扑及其相应的连接。
  • 使用带有片上高速网络的FPGA的八大好处 尽管在FPGA中的按位来布线非常灵活,但其缺点是每个段都会给任何给定的信号通路增加延迟。需要在FPGA中进行长距离传输的信号会导致分段之间的连接延迟,从而降低了功能的性能。按位布线的另一个挑战是拥塞,它要求信号路径绕过拥塞,这会导致更多的延迟,并造成性能的进一步降低。
  • RMS所应了解的五件事 本文对下面五个与RMS相关的信息,着重强调了它们的实用价值:RMS是给定信号段的特定属性;滤波与求平均值不是一回事;RMS并非总是与功率有关;在采样系统中,RMS比均值更优;无法通过对连续的RMS结果滤波来提高精度。
  • 机器人应用中的毫米波雷达传感器 随着机器人技术的进步,互补传感器技术也在进步。就像人类的五官感觉一样,通过将不同的传感技术结合起来,可在将机器人系统部署到不断变化、不受控制的环境中时取得最佳效果。
  • 从奥迪A8的内部设计中,我们可学到哪些? 当奥迪在2017年底推出其重新设计的A8轿车时,该公司吹捧它是汽车行业的首款3级汽车。当时奥迪所面临的技术问题和陌生的成本结构,整个汽车行业现在都仍在面对。本文根据奥迪A8的拆解,对五个问题进行了深刻解读。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了