广告

阿里发布最强AI芯片:性能“吊打”同行,一块顶十块GPU

2019-09-25 网络整理 阅读:
阿里发布最强AI芯片:性能“吊打”同行,一块顶十块GPU
发布含光800芯片时,张建锋拿出一张芯片展示,称“这个芯片真的非常大”。张建锋表示,“含光800”是阿里平头哥成立后首款正式流片的芯片,并称含光800性能“吊打”同行。

刚刚,在阿里2019云栖大会上,阿里巴巴集团首席技术官兼阿里云智能总裁张建锋发布了阿里的首款AI芯片“含光800”。So7ednc

这是一款云端AI推理芯片,峰值性能为7.8万IPS(每秒能处理7.8万张照片),峰值能效达到500IPS/W,张建锋表示,这是全球最高性能的AI推理芯片,一块“含光800”相当于10块GPU。So7ednc

003ednc20190925So7ednc

据了解,含光800主要应用于视觉场景,已经在阿里巴巴集团内多个场景大规模应用,其它企业可以通过阿里云获得含光NPU的算力。So7ednc

性能“吊打”同行,一块顶10块GPU

发布含光800芯片时,张建锋拿出一张芯片展示,称“这个芯片真的非常大”。So7ednc

004ednc20190925So7ednc

张建锋表示,“含光800”是阿里平头哥成立后首款正式流片的芯片,并表示含光800性能“吊打”同行。So7ednc

据达摩院介绍,在业界标准的ResNet-50测试中,含光800推理性能达到78563 IPS,比目前业界最好的AI芯片性能(第二名:15012)高5倍;能效比500 IPS/W,是第二名的3.3倍,张建锋称:“含光800是阿里巴巴在芯片领域的万里长征第一步。”So7ednc

005ednc20190925So7ednc

据张建锋称,这是全球最高性能的AI推理芯片,一块含光800相当于10块GPU。So7ednc

据了解,不同于基于冯·诺依曼架构的传统通用处理器,含光800根据神经网络推理运算特征,设计特定的硬件神经元、高速连接的存储结构以及专用指令集,对内存和计算单元实现高效组织管理,实现单条指令完成多个操作,提高计算效率和内存访问效率。So7ednc

006ednc20190925So7ednc

在杭州城市大脑里,视频实时处理使用GPU需要40块,延时300ms,单路视频功耗2.8W;而使用含光800仅需4块,延时150ms,单路视频功耗1W,有效节约了硬件和时间成本。So7ednc

不过,阿里在现场并没有给出Tops、功耗等数据,也没有给出对标的GPU具体品牌与产品线,让这对比的参数多少有些不明确。So7ednc

从设计到流片只用了一年半时间

张建锋表示,这块芯片从设计到流片只用了一年半时间。So7ednc

据了解,平头哥用7个月完成了前端设计,之后用3个月就成功流片。仅成立一年的平头哥半导体为何这么快就能设计出云端AI芯片?So7ednc

007ednc20190925So7ednc

要知道,芯片作为典型的长周期产品,想加速芯片的商用,在硬件和软件方面都需要有很强的实力,特别是在AI时代,软硬一体化的重要性更加突显。平头哥就得益于阿里在软硬件方面的积累:So7ednc

算法方面,阿里巴巴达摩院机器智能实验室过去两年构建了完整的算法体系,涵盖语音智能、语言技术、机器视觉、决策智能等方向,并且取得多个世界领先水平的成果;硬件方面,阿里巴巴此前已在服务器、FPGA以及存储等领域拥有多年研发经验,此外,平头哥团队在体系结构、编译技术等领域拥有深厚的技术储备。So7ednc

含光800性能的突破得益于软硬件的协同创新,芯片架构方面,含光800采用创新的架构,针对深度学习中使用的大量权重参数和张量数据,在支持稀疏压缩与量化处理的基础上,通过独特设计的数据访存与流水线处理技术,大大减低了I/O需求和数据的搬移。NPU同时深度优化了卷积,矩阵乘,向量计算和各种激活函数,通过高有效的硬件资源调度和全并行的数据流处理,把AI运算的性能和能效都推向极致。So7ednc

其中,性能的提升必须解决内存墙问题。所谓的内存墙,是指采用采用冯诺依曼结构的处理器,存储和运算处理分离,当进行深度神经网络处理时,算力得到了提升,但大量读写运行操作会受到带宽限制,芯片的整体性能提升也同时受到限制。So7ednc

平头哥的做法是通过自研架构大幅减少对内存的访问,在保证性能的情况下,把芯片功耗降到最低水平。具体而言,含光800会根据神经网络推理运算特征,设计特定的硬件、高速连接的存储结构以及专用指令集,对内存和计算单元实现高效组织管理,实现单条指令完成多个操作,提高计算效率和内存访问效率。So7ednc

已应用于阿里巴巴集团内多个场景

据了解,目前,含光800已应用于阿里巴巴集团内多个场景,例如视频图像识别/分类/搜索、城市大脑等,未来还可应用于医疗影像、自动驾驶等领域。So7ednc

比如,拍立淘商品库每天新增10亿商品图片,为了让用户快速从海量图片中精准搜索到商品,需要强大的计算力支撑,使用含光800搜索效率可提升12倍,时间从传统通用GPU的1小时缩减至5分钟。So7ednc

过去半年,平头哥先后发布玄铁910、无剑SoC平台。随着含光800的发布,平头哥端云一体全栈产品系列初步成型,涵盖处理器IP、一站式芯片设计平台和AI芯片,实现了芯片设计链路的全覆盖。So7ednc

张建锋说,这块芯片只是阿里万里长征第一步,今天阿里有足够的信心、能力,把传统硬件公司能做到的、不能做到的都做到。未来,阿里成为软硬件一体化协同发展的公司。So7ednc

责编:Demi XiaSo7ednc

(综合整理自澎湃新闻、智东西、雷锋网等)So7ednc

本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 苹果下一代智能终端?iPhone+iGlass,苹果手机塞入苹果眼 一直传言苹果在秘密研发颠覆人类消费终端的下一代产品,有人说是穿戴,有人说是无感设备。不过,按照苹果的研发与市场推进,一般有一个缓冲或者说过渡产品推出,这也是遵循科技与消费市场进步的规律。最近EDN有发现苹果申请了把iPhone塞进苹果眼镜设备中的专利,我们看看这是否是下一代智能终端,亦或下一代过渡终端。
  • 系统级芯片(SoC)的复杂设计选择:FPGA 在做系统级芯片(SoC)的设计规划时,需要考虑哪些主要因素?目前主流的SoC一般包括哪些功能模块或IP?有什么新的技术趋势值得关注?RISC-V与FPGA如何有机结合助力SoC设计?当前的SoC设计在性能、功耗和尺寸方面面临哪些挑战?有何解决方案?物联网和边缘计算等嵌入式系统对SoC设计提出了什么特别要求?
  • 安卓手机的漏洞都在于系统吗?No,高通芯片级Adreno GPU更 都说安卓手机不安全,漏洞太多,不是被监听就是被植入木马吸费转账之类的,而绝大部分人认为安卓手机的安全根源在于安卓系统。不过,真的如此吗?谷歌最近就发现了高通 Adreno GPU 的“高危”安全漏洞!这种硬件级别的漏洞恐怕更是硬伤!
  • 骁龙888首发手机,“准真机”——小米11曝光? 前段时间,EDN集中报道了高通第三代5G芯片《骁龙888最全面详解...》,以及《搭载骁龙888的手机有哪些?首发旗舰清单及跑分曝光!》,不过,坊间传言的真机一直是海市蜃楼,今日,我们就为您介绍骁龙888真的的“准真机”:小米11。
  • 三星Exynos 2100——高通骁龙888对手,同在Galaxy S21+ 高通刚刚高调发布骁龙888处理器,似乎是目前最强劲的5G手机芯片了,不过,其对手马上就要来了:三星猎户座Exynos 2100,而且同在Galaxy S21+上的跑分曝光,那么谁将更强呢?
  • 量子计算商用?IBM首席执行官表示,或在2023年开始! 量子计算是科学的前沿阵地之一,虽然有了一些科研和试验,但是一直未有实际的落地应用或者较大规模的商用。不过,最近IBM首席执行官Arvind Krishna称,其客户最早可以在2023年使用并获利。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了