广告

AI芯片有哪些关键指标?

2020-07-16 11:40:12 阅读:
目前,各种促进深度学习算法有效处理的新架构和新技术不断推向市场。那评价一款AI芯片最关键的指标到底是什么?

AI快速发展的当下,一款更符合应用需求的AI芯片将是加速AI与新经济社会各领域渗透融合、推动AI可持续发展的重要因素。目前,各种促进深度学习算法有效处理的新架构和新技术不断推向市场。那评价一款AI芯片最关键的指标到底是什么?5Pyednc

AI芯片分类的维度

最近几年AI的关注度都非常高,但今年热度似乎在下降。有人认为,这其中很重要的原因是AI的落地不如预期。清华大学长聘教授,微纳电子系副主任、微电子学研究所副所长,北京清微智能科技有限公司创始人尹首一对雷锋网表示:“我觉得从一个事物发展的角度来看,早期肯定是最吸引眼球的阶段,标志性事件也引发大家热烈的讨论,比如AlphaGo的人机大战。时间久了大家会觉得习以为常,AI也会逐步进入一个平稳的发展阶段。”5Pyednc

“对于AI当下的发展,不能简单的说AI落地不如预期,典型产品已经成功进入大家的日常生活。当然,AI落地本身肯定会遇到各种困难和挑战。“5Pyednc

这其中很关键的就是AI芯片,我们目前所说的AI芯片通常是指可以运行深度学习算法的芯片。由于CPU、GPU、FPGA的通用性,能够运行深度学习算法,从广义角度来看,它们属于AI芯片的范畴。5Pyednc

从狭义角度看,AI芯片是指针对AI的算法、应用和场景定制优化的芯片。也就是说,AI芯片应该和CPU、GPU、FPGA区分开。除了CPU、GPU、FPGA、ASIC这个常用分类维度,还有一些其他维度。5Pyednc

如果从纯数字架构的角度,可以将AI芯片分成时域计算架构、空域计算架构、可重构计算架构三种类型。具体而言,基于指令集驱动的芯片可归为时域计算架构,比如CPU;而FPGA则是典型的空域计算架构;可重构架构时间域可以动态重构,从某个时间片的角度看其计算又是空间域并行,它是时域和空域的结合。5Pyednc

尹首一表示,从宏观的角度看,可以把AI芯片架构分为这三类,当然从不同的侧面也可以有不同的分类,比如混合精度、稀疏处理等特点也可以成为分类维度。5Pyednc

但无论哪一类AI芯片,最为重要的还是最有效处理深度学习算法,进而解决实际问题。不断迭代的AI算法对AI芯片提出了越来越高的算力需求,因此,高峰值算力最先成为了AI芯片最受关注的指标。5Pyednc

AI芯片有哪些关键指标?

在一段时间内,峰值算力的提升成为了不少AI芯片公司工作的重点。但他们很快发现,冯·诺伊曼体系结构中,数据从存储器串行提取并写入到工作内存,导致相当长的延迟和能量开销。存储与计算之间的性能差异导致了内存墙问题,这也是阻碍AI芯片发展的关键。为此,打破内存墙的瓶颈,提升AI芯片的PPA(Performance,Power,Area)又成为了关注的焦点。5Pyednc

存算一体这个很早之前就被提出的技术成为了当下讨论较多的解决方案,有两种技术已经使用。一种把计算做到DRAM或SRAM存储器中,把计算和存储两部分的物理距离拉的特别近,另一种是把存储分散到计算的阵列中去。当前的另一个热点是采用新兴存储器RRAM来做,利用RRAM交叉开关阵列,用电压和电流的方式表达出矩阵相乘的结果。5Pyednc

尹首一认为,存算一体的思路是解决存储墙必然的一个趋势。但他也同时指出,内存墙的问题会长期存在。从AI芯片落地的角度看,内存墙问题是挑战之一、但不是全部,因为不同场景下内存墙的表现和影响不太一样,易用性是不可忽视的问题。5Pyednc

易用性既取决于芯片最初的定义和设计,后期的生态建设也非常关键。尹首一说:“芯片设计为了追求更高性能指标,通常设计决策会做一些折中,可能会牺牲掉一定的易用性。但反过来会发现,其实很多场景下,极致的性能并不一定会成为压倒性的要素,还是需要开发的便捷性,或者说配套的工具链完备性,这是AI芯片在落地过程中主要会碰到的困难。”5Pyednc

即便是需要极致算力的场景,在实际应用中也会发现,AI芯片的峰值算力和有效算力之间可能会有很大差距,这是否意味着有效算力比峰值算力更有说服力?尹首一认为,简单的用某个指标去评价一款AI芯片,可能有点以偏概全。很多应用场景关注的侧面可能完全不一样。5Pyednc

像自动驾驶应用,当下要解决从无到有的问题,因此会更加追求算力,功耗会放到第二位。而像家电的场景,成本则是一个很重要的因素。5Pyednc

“因此,功耗和性能如何去平衡,让AI芯片有足够的弹性去适应不同场景的需求,是AI芯片产品定义中比较重要的方面。”尹首一表示。5Pyednc

“可重构架构很大的优势就在于可以在灵活性和能量效率之间寻找一个比较好的平衡。还需要说的是,灵活性是为了适应AI算法的演进,但芯片追求更好PPA指标的目标是不会变的。”5Pyednc

AI芯片未来演进的关键是什么?

探索功耗和性能的平衡,适应AI算法的演进兼具良好的易用性是当下以及未来AI芯片发展的关键。“随着深度学习算法和人工智能应用的发展,AI芯片的问题肯定会不断涌现出来,我们现在能做的是提供足够灵活的方案,具备对未来算法一定程度上的可扩展性。”尹首一表示,“当然新的算法和需求可能会超出我们架构最初的一些设想,这需要架构不断演进。另一方面,当一些场景的需求足够大,就可以针对这些场景设计出更定制化的AI芯片。”5Pyednc

在这个过程中,很有利的一点是一些应用场景的需求已经基本稳定,当跨过这些场景所需的性能门槛后,AI芯片就未必需要去追求最新的算法。5Pyednc

这带来的好处是,当算法相对稳定后,可以把里面的要素分析的更透彻,通过不断迭代的软硬件协同优化,使AI芯片在具体场景中的优势更大程度上体现出来。5Pyednc

AI芯片的技术会跟随着时代的发展不断演进,只有技术和应用很好地结合才能更好地抓住AI的时代机遇。当前介绍人工智能和集成电路设计的书籍很多,但是针对人工智能芯片,长期以来缺乏一本系统性的专著。5Pyednc

尹首一教授借集成电路设计丛书编委会邀请的契机,撰写并出版了《人工智能芯片设计》,总结了人工智能芯片的发展历程以及当前面临的挑战和问题,分析了各项设计需求,介绍了人工智能芯片设计的新思路、新方法和新技术,展望了未来发展趋势。5Pyednc

5Pyednc

尹首一接受采访时表示,“撰写《人工智能芯片设计》最大的感受就是AI芯片的发展很快,比如三四年前探讨混合精度计算还不多,现在芯片设计中已经普遍使用。因此我们的书也希望能够很快再版,保持内容的不断更新,希望和AI芯片一起不断成长。”5Pyednc

关于当下新基建的时代机遇。尹首一认为,“从宏观上看,新基建肯定利好AI芯片,但还要具体情况具体分析。如果你的芯片进展和新基建很吻合,那应该把握好这个转瞬即逝的机遇。如果交集不多,那就练好内功,芯片的竞争最终比拼的还是技术和产品的综合实力。5Pyednc

责编:Demi Xia5Pyednc

(本文作者:包永刚;来源:雷锋网)5Pyednc

  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 12月13日起通信行程卡服务正式下线 12月12日0时,“通信行程卡”微信公众号发布“关于下线‘通信行程卡’服务的公告”
  • Microchip在RISC-V峰会上展示基于RISC-V的FPGA和空间 领先的PolarFire®器件可提供两倍能效、军用级安全和最高可靠性,PolarFire 2 FPGA路线图将进一步扩大其领先优势 
  • 国产芯片 助力降本增效 国产芯片 助力降本增效
  • 4200VDC高隔离汽车级DC/DC电源模块——CFB0505XT-1WR3 金升阳汽车级DC/DC电源模块CFB0505XT-1WR3系列,满足汽车EMC标准,产品隔离耐压高达3000VAC/4200VDC,工作温度范围为-40 to +105°C,效率高达82%,且具有可持续短路保护(自恢复),产品整机符合AEC-Q100测试标准,满足汽车行业对高可靠小体积电源的要求。
  • SCT2432Q高效率同步降压型DCDC转换器 SCT2432Q通过AEC-Q100的车规级Grade1认证;输入电压可达40V,输出电流3.5A的高效率同步整流降压变换器芯片;高压侧 MOSFET的导通时间最小为100ns,支持高输入电压/输出电压的电压转比。采用固定频率峰值电流模式控制,工作频率高达2.2MHz。允许低至3.8V的宽范围输入电压以及高达100%的最大占空比支持。
  • CS32F036Q:高可靠车规MCU产品 芯海科技推出的高可靠车规MCU产品CS32F036Q,内置高性能的ARM®Cortex®M0 32位内核,工作频率48MHz,集成多达32K字节Flash和4K字节SRAM,以及广泛的外设和I/O。提供标准通信接口、专为电机控制设计的12位高速ADC和增强型定时器、最多支持17路PWM输出。
  • 芯海科技斩获ICDIA 2021 汽车芯片创新奖 中国集成电路设计创新联盟重磅发布了《2021汽车电子芯片创新产品目录》,为搭建产用对接合作平台,双向发力保障芯片产品供给,满足市场的需求将发挥重要作用。芯海科技CSA37F62-LQFP48、CS32F031、CS32G020、CSU3AF10、CS1239产品入选其中。
  • #芯洲科技 芯洲科技创立于2016年,是国内领先的中高压DCDC(直流到直流)功率转换芯片提供商。核心研发和管理团队来自业界顶级半导体设计公司,公司拥有独立自主知识产权和丰富的IP积累,在北京、深圳、成都、杭州设有办公地,业务遍及全国。芯洲科技践行围绕客户需求创新和质量第一的文化,致力于功率转换、功率控制和功率保护的核心技术,提供有商业竞争力的模拟电源芯片解决方案和服务,帮助客户解决功率密度、效率、电磁干扰、散热、产品体积、安全以及芯片设计易用性等系统应用方面的挑战和困难,保障客户电子电气产品高效节能安全运行,创造客户价值。芯洲科技和生态中的上下游合作伙伴共同打造可持续的核心竞争力和核心产业价值,为世界节能降耗,共创绿色低碳新生活。芯洲科技秉持着以价值为先,以贡献为本,诚信求真,在产品品质、服务、管理上不懈追求极致的核心价值观。
  • 意法半导体发布车规音频功放芯片,为紧急救援、远程信 FDA803S和FDA903S是意法半导体FDA(纯数字放大器)系列中最新的单通道全差分10W D类音频功率放大器。目标应用包括紧急道路救援、远程信息处理等需要音频通道产生最高10W标准输出功率的语音、音乐或提示消息的任何汽车系统。
  • 意法半导体生物识别支付平台获EMVCo 认证,有助于机构 意法半导体完整的技术平台获得行业认证,整合嵌入式安全单元和超低功耗通用微控制器,具有经济、强大的安全保护功能
  • 拆解iPhone 14 Pro,高度模块化,相比上一代有上面变化? 14 Pro的内部结构是怎样的,相比上一代又存在着什么样的变化呢?
  • 自制回路增益测试变压器 我们可以购买测试设备,用它来检查在运行反馈回路的回路增益和回路相位属性,并且所购买的设备可以在非常宽的频率范围内提供有用的结果。然而,我所遇到的电源中的反馈回路,只需要在相当有限的频率范围内进行表征。在这种情况下,使用一些低成本元器件“自制”,效果就非常好。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了