向右滑动:上一篇 向左滑动:下一篇 我知道了
广告

新芯片技术全面靠拢AI!

时间:2020-03-03 作者:Brian Santo 阅读:
从Google TensorFlow、APU、NPU到BPU等专为AI而生的新型处理器,到小芯片以及多芯片封装,甚至是量子运算,在日前于ISSCC上揭露的先进芯片技术,无论对于电路设计还是AI都同样重要...

Google开始尝试以机器学习(ML)在IC设计中执行布局与绕线(place-and-route),并正逐渐取得不错的成果。在日前于美国加州举行的国际固态电路研讨会(ISSCC)上揭露的这一事实,无论对于电路设计还是人工智能(AI)都是同样重要的。2Qkednc

多年来,AI一直是电子产业中的头号大事,这一发展方向(伴随创投与头条新闻)也不断吸引着大量的半导体研究。因此,今年的ISSCC主题很自然的就订为“IC技术启动AI时代”(Integrated Circuits Powering the AI Era),而一开幕的大会议程也在致力于描绘AI如何改写整个半导体样貌。2Qkednc

开场会议的几位发言人解释了AI的具体需求,例如,驱动专为AI应用而设计的新型处理器(以及CPU和GPU);促进结构创新,包括小芯片(chiplets)、多芯片封装与中介层;甚至是影响着量子运算的发展。2Qkednc

大会的第一位发言人是Google AI负责人Jeff Dean,他简介了机器学习的最新内容。过去一年多以来,Dean持续以各种形式发表演讲,引导产业针对ML布局与绕线工具的更多讨论。2Qkednc

2Qkednc

比较针对布局与绕线ASIC设计的专家经验与低功耗ML加速芯片的结果。但Google故意遮掉了部分影像(来源:Google Research/ISSCC2Qkednc

他首先简要介绍AI和ML的历史,从1995年机器如何学习玩西洋棋开始,到让机器学会在棋赛中脱颖而出,现在已经可以在《星海争霸》(StarCraft)等复杂的视讯游戏取得斐然成绩。ML还被用于医学成像、机器人技术、计算机视觉、自动驾驶车、神经科学、农业以及天气预报等领域。2Qkednc

数十年来推动运算发展的基本思维是,问题越大,需要的处理能力就越强大,而拥有的处理能力越强,所能解决的问题就越重大。长久以来,这一概念都适用于以AI解决种种问题。2Qkednc

而当问题的领域日益扩展到过于广泛而无法解决时,根本就不可能再光靠聚集更多CPU(和/或GPU)的能力来解决。2Qkednc

而AI/ML则不需要典型的CPU/GPU能力。其所需的数学运算可能更简单,而所要求的精度则要低得多。对于这一类应用的了解带来了实际的影响:专用于AI/ML的处理器并不必像CPU/GPU那样复杂。2Qkednc

这是导致专用处理器为推论而生的看法之一。例如Google TensorFlow,如今已发展到第三代了。尽管普遍预期Google不久将推出第四代TensorFlow,但如果您指望在今年ISSCC上透露任何相关信息的话,希望可就破灭了。2Qkednc

除了推论所需的精度较低之外,业界也发现“训练”(training)的精度要求也较低些——这是相对较新的发现。AI/ML处理器可能相对较简单,因而也较便宜,而且,目前的AI/ML处理器即使用于大量数据集上,也有足够强大的能力进行快速训练。Dean解释,这些都让ML更易于进一步推向网络边缘,例如语音识别应用。2019年,Google曾为此开发一款可执行于智能型手机上的小型产品。2Qkednc

每一种AI应用(自动驾驶、医疗成像、棋奕游戏)都是调整一款专用AI/ML系统而学习来的结果。每一种应用基本上都有一个AI。因此,下一个问题是:是否可能让AI在学会一件事后,看看它是否能将学到的东西应用于其他类似任务?2Qkednc

Dean说:“提出这个问题是因为我们开始考虑将其用于ASIC设计中的布局与绕线。布局和绕线的规模远远大于下棋游戏。虽然问题的规模更大,但却没有像下围棋时一样清楚的目标。”2Qkednc

Google为布局与绕线建立了一个学习模型,然后着手确定该工具是否可以通用化推广。它能从一个设计上学到知识并应用于前所未有的新设计中吗?答案很明确是肯定的。2Qkednc

Dean说:“此外,至今的各种尝试都获得了超前的成果。它的成果比人为的好一点,有时甚至更好得多。”2Qkednc

2Qkednc

Google采用几个不同模块的测试电路,比较使用ML教自己布局和绕线ASIC设计的AI性能。此外,并在渐进式间隔的额外调整后,比较相同ML与商用工具的性能。(来源:Google Research/ISSCC2Qkednc

其优点包括在极短的时间内执行布局与绕线。完成这项任务可能需要花费人类专家数周的时间,但ML布局与绕线通常可在24小时内完成相同的工作,而且其布局时的线长通常较短。ML绕线器在自动布局绕线工具方面的表现也十分出色。2Qkednc

Dean说,ML还可扩展到IC设计过程中的其他部份,包括使用ML协助产生测试用例,以更充份地利用ASIC设计验证中的状态空间,也许还可以用ML来改进高层级的综合以达到优化设计。2Qkednc

然而,这对于ML的意义与加速IC设计进度的意义一样重要。如果一个ML可以在一个类别中进行概括(gernralize),那么可以在其他类别中进行概括吗?2Qkednc

“未来的ML模型会是什么样子?”Dean问:“我们可以训练一种模型来概推至相似的任务吗?理想情况下,我们需要一种可以学习完成数千或数百万项任务的模型。”2Qkednc

人工智能物联网(AIoT)

联发科技(MediaTek)资深副总经理陆国宏谈到了AI如何改变几乎与Internet连接的有事物,同时,人工智能物联网(AIoT)将从数十亿台装置迅速发展,预计到2030年,全球将有3,500亿台连网装置。2Qkednc

AI之所以走向边缘,部份原因在于其能力所及,其他原因还包括为了减轻数据中心日益增加的处理负载、让网络流量最小化等需求,以及某些应用需要使用本地处理或最适合于与本地处理搭配使用。2Qkednc

本地处理必须快速、专为AI运算而设计,而且还必须极其节能。2Qkednc

这些本质上是新的处理器类别。陆国宏称其为AI处理单元(APU),有的人则称其为神经处理单元(NPU)、大脑处理单元(BPU)等名称。他说,例如,一个APU可能不如CPU灵活,但由于是专用的,所以APU能以更低55倍的功率加速20倍之多。2Qkednc

陆国宏表示,APU开发人员正开发以3TOPS/Watt实现1TOPS性能的装置。他相信以10TOPS/W达到10TOPS性能是可以实现的,而且最终可能以30TOPS/W的速度达到100TOPS运算效能。2Qkednc

联发科研究人员也在ISSCC上发表另一篇论文,提出“以7奈米5G智能型手机SoC为多功能AI应用实现3.4~13.3TOPS/W 3.6TOPS双核心深度学习加速器”(3.4 to 13.3TOPS/W 3.6 TOPS Dual-Core Deep Learning Accelerator for Versatile AI Applications in a 7nm 5G Smartphone SoC.)2Qkednc

这毕竟是7奈米(nm)技术。随着摩尔定律(Moore’s Law)的曲线进展到较小的制程节点,至少要再前进一步,例如从目前的7nm到5nm,才可能提高性能。陆国宏认为摩尔定律仍然适用。2Qkednc

然而,也不是没有限制。晶体管的数量随着整合度的增加而增加,并继续遵循经典的摩尔定律曲线,“但每晶体管成本却并未遵循这一规则。”。此外,由于芯片设计的复杂性以及制程步骤变得越来越复杂,导致先进装置的成本飞涨,从而使较小的公司无法导入新技术制程,更别提还有产量问题了。2Qkednc

陆国宏说,解决其中许多问题的常见方案是采用像小芯片之类的技术。他说:“这可能比摩尔定律的表现更好。”但无论是小芯片还是其他架构方法,都意味着在互连方面的挑战。2Qkednc

系统技术“协同优化”

Imec高速模拟RF计划经理Nadine Collaert更进一步探讨这场会议的主题,包括如何解决分离裸晶的必要,以及为未来的芯片找到可替代的结构和架构。她称此为系统技术协同优化(system technology co-optimization或STOC)。2Qkednc

她解释说,摩尔定律可能持续多年,但是微缩CMOS越来越困难。她用FinFET、奈米片等越来越复杂的组件结构示例来说明,这些组件确实都有助于在芯片级进一步实现CMOS微缩。2Qkednc

2Qkednc

Imec展示可在SOI基底上以奈米脊形生长III-V材料的能力。(来源:Imec/ISSCC2Qkednc

然而,最终业界还是需要一种新方法。她解释说,“我们相信3D技术是最好的方法。这包括使用线接合的多芯片封装,甚至是在组件级,也可以与其他标准单元进行精细连接。”2Qkednc

如果要搞清楚哪一种技术可用,必须根据可用选件的属性来匹配系统要求。 “这将是一个复杂的过程,”Collaert说,而且将会对于EDA供货商带来压力,要求其提供可让设计人员能够权衡其选择的工具。2Qkednc

特别是无线通信系统的前端模块挑战更大。“通常,这些都是最多样化的系统——许多不同组件各自采用不同技术,而且随着使用更多的天线、功率放大器(PA)和滤波器,还会变得更复杂。”2Qkednc

业界正朝着更高的频率和更高的效率迈进。选择之一是将III-V材料(例如GaN和SiC)与CMOS结合使用,以获得两种材料的优势。这可以透过3D整合来完成,她举例说像是在绝缘上覆硅(SOI)基底上生长具有III-V材料的3D奈米脊等,“但这还有待执行很多工作才能实现。”2Qkednc

至于内存?Collaert说:“诸如AI和ML等新应用正推动开发蓝图进展。”这些应用需要快速存取内存。“目前业界开始关注于内存中运算,但随着逻辑和内存之间的距离越来越近,当然更重要的就是采用3D封装。”2Qkednc

未来,在先进应用中采用快闪记体(Flash)将可堆栈更多层。此外,还必须改善在这些内存中的信道电流。“为此,我们必须研究通道迁移性,这又意味着必须研究III-V材料。”同时,透过扩展来研究将硅层与III-V材料层堆栈在一起的3D架构。2Qkednc

而在DRAM方面,电容正从圆柱状逐渐成长为支柱状,这是迈向3D之路的另一种改变。其他内存选项包括用于替代快取的磁性内存和3D储存级内存。Collaert指出,Imec展示了一种垂直铁电场效晶体管(FeFET),但目前正进行更多研究中。2Qkednc

她说,这些内存的发展都是在ML架构下进行的。AI正在蓬勃发展,其中许多都在云端,但由种种原因正准备将其移到边缘,从而节省部份能耗。”Imec认为可能达到10,000 TOPS/W的效能。2Qkednc

“微缩仍在持续中。一切都还没结束呢!”她总结说:“新的内存可能还不在开发蓝图的规划中,但可能会在ML中扩展应用。”2Qkednc

量子运算

IBM Research总监Dario Gil为此次大会总结了“下一步路在何方”,他说这正是广义的AI之路,而且几乎可以肯定将在量子计算机上实现。此外,他并强调最大的好处可能来自于搭配位(数字处理)、神经元(AI)和量子位(量子运算)的互补使用。2Qkednc

他指出,IBM在2016年开放了第一台量子计算机的云端访问权限,现在可以存取15台量子计算机了,包括其最新的53量子位的量子计算机。2Qkednc

(原文发表于ASPENCORE旗下EDN姐妹媒体EETimes,参考链接:All Processing Bends Toward AI ,编译:Susan Hong)2Qkednc

本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Brian Santo
EETimes美国版主编。Brian Santo已经为多家出版物撰写技术文章达30年,包括Electronic News、EE Times、IEEE Spectrum以及其最近担任CED主编的一些出版物。 他文章涉及的主题包括测试与测量、半导体生产、消费电子、军事电子、有线网络、宽带、无线技术等等。 他在俄勒冈州波特兰的住所外工作,所以请忽略他办公室外嘎嘎叫的鸡。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
您可能感兴趣的文章
  • 后SoC时代或将迎来Chiplet拐点 这里先把结论罗列出来(1)Chiplet拐点将带领集成电路生态将迈入“打土豪分田地"的新时期;(2)Chiplet拐点面前,新形态体系结构形态的将提倡富含想象力的小而美,并且“去中心化”;(3)Chiplet拐点将诞生一类新型态的富含模拟电路芯片——有源基板,它将终结低电压低增益低匹配的先进工艺模拟设计困局。
  • 蜂鸣器的工作原理 就现今电子产业利用噪音产生器提供的功能而言,蜂鸣器(buzzer)的确已经是产业里的“老爷爷”或“老奶奶”了。但蜂鸣器已经存在了数十年,在电子产业领域中有众多的蜂鸣器,因此很值得我们花点时间了解它们的工作原理。
  • 高级封装正在成为潮流 展望未来,我们可以从几方面大概预测一下高级封装技术未来值得关注和探索的方向。首先,从电路系统的角度来说,高级封装在封装级别引入了新的互联,因此许多围绕“互联”的电路将会变得更加重要……
  • 为裸片到裸片( Die-to-die)间连接选择正确的IP 自大数据问世以来,用于超大规模数据中心、人工智能(AI)和网络应用的片上系统(SoC)设计人员正面临着不断演进的挑战。由于工作量的需求以及需要更快地移动数据,具有先进功能的此类SoC变得益发复杂,且达到了最大掩模版(reticle)尺寸。本文介绍了die-to-die连接的几种不同用例,以及在寻找用于die-to-die链接的高速PHY IP时要考虑的基本注意事项。
  • 追踪错位的振荡 公司里,年轻工程师的硅晶(silicon)刚从制造商那边送回来,但其内部稳压器正在振荡,这是先前设计的一个问题,且团队因为问题未解而感到心烦意乱…
  • 为什么我们越来越多的使用贴片电阻,而非插装器件? 越来越多电路板的使用贴片元件,新设计的电路板除特殊需求的情况之外,都是优选贴片元器件。贴片元件以其体积小、易于机器焊接、便于维护,随着成本下降,已经成为很多器件选型场景的默认选项。特别是电阻、电容、电感,这些批量使用的元器件,设计时都倾向于优选贴片元件。这是因为以下几种原因。
相关推荐
    广告
    近期热点
    广告
    广告
    广告
    可能感兴趣的话题
    广告