广告

神经拟态计算基准测试难在哪里?

2021-11-15 Sunny Bains 阅读:
神经拟态计算基准测试难在哪里?
神经拟态计算是工程师正在尝试的一个全新领域,不易与其他系统进行比较可能是这项技术的一个难点。基准测试过去几年已逐渐成为神经拟态工程的热门话题,对于使用不同接口、编码、技术和方法的神经拟态系统,开发人员要如 何进行基准测试并且要花多长时间呢?

新技术的成功在一定程度上取决于这种技术所带来的价值,简单说就是要证明新技术比竞争对手的技术好。新技术只有带来新的价值,才能吸引投资者,并让管理者满意。在现有产品的基础上设计一个更小、更快、更轻、更有效的替代品相对比较容易,而创造一个完全不同的新东西要困难得多。czvednc

神经拟态计算就是工程师正在尝试的一个全新领域,不同系统之间(神经拟态和其他系统)不易进行比较可能是这项技术的一个难点。czvednc

产生这个难点的一部分原因是因为该领域很复杂。神经拟态技术是从大脑汲取灵感。但正如我们之前所讨论的,要将灵感变为现实,从硬件层面来看有很多种方法,如模拟或数字、尖峰或非尖峰、连续或离散时间、虚拟或直接神经元连接。czvednc

不同工作小组的目标和重心有时候也各不相同。一些想要仿真生物学,一些专注于能源效率,另外一些希望仿真类人智能,还有一些则只想为日常机器学习的难题找到实用的解决方案。czvednc

那么,对使用不同接口、编码、技术和方法的神经拟态系统,开发人员要如何进行基准测试并且要花多长时间呢?基准测试过去几年已逐渐成为神经拟态工程的热门话题。实际上2016年就已经开始比较不同应用中的系统,或者运行不同的算法、网络或算法/网络集了,仅今年就发表了三项有关这一主题的研究。czvednc

我们将在以后的文章中讨论这些研究,本文的重点是理解为什么基准测试仍是一个难题。czvednc

细节很重要

我们来执行一项学习或识别任务,然后比较其在不同实验系统上的表现。首先,必须选择一项能够在所有系统中执行的任务,尽管这些系统在设计之初可能并没有考虑到这一点。此外,必须考虑整个过程(从加载任务、运行任务到产生输出)以及每个步骤是否都得到了优化。czvednc

如果没有优化(这是新技术的常见问题),则必须将测量指标进行细分,使之仅用于有关的系统,而非用于整个基础设施(支持这些系统所需)。czvednc

硬件也可以用这样一种方式来构建,使其能产生适当的数据用于分析,包括不同阶段的性能或功耗。然而,情况往往并非如此。czvednc

FLOPS(每秒浮点运算)能让事情变得容易,但目前还没有其它等效方法。工程师们尝试使用MAC(乘法累加运算),但MAC更适于深度学习,并不能反映神经拟态工程的复杂性。czvednc

突触操作也不适用,因为完成任务的方式太多,可以使用的学习规则太多,编码方式太多,突触和神经元功能也太多。czvednc

即使这些都不是问题,大家都知道,要使系统软件运行,必须对编译器进行量身定制,无一例外。否则,即使是最好的系统也会表现不佳。czvednc

不良基准的危害

为了更好地理解,让我们看看神经拟态之外的其他技术。桑迪亚国家实验室的Robin Blume-Kohout对量子计算机的基准测试很感兴趣。在一次题为“Not All Benchmarks Are Created Equal”的演讲中,Blume-Kohout表示,对于任何处于早期开发阶段的技术,依赖其基准都是有难度的。czvednc

他在2018 年的一份技术报告中强调了这一论点,“当今最先进的量子处理器如同处于婴儿阶段。用于成人的测试指标和基准(例如智商或SAT分数)显然不适用于婴儿;婴儿的任务只有一个,就是成长。czvednc

“监控婴儿成长需要的技能和知识与评估成人所需的完全不同,”他继续说,“孩童与不成熟的技术一样,其成长与进步并非凭直觉能观察到,有时甚至还出现倒退(例如掉乳牙或进入青春期)。”czvednc

与量子计算相比,神经拟态工程处于更先进的阶段,一些神经拟态系统已经投入实际应用,尽管大部分还是小规模的。但Blume-Kohout的观点对处于“青少年时期”的技术也是有效的。就像在学校,过度考试会让孩子擅长考试却不擅长独立学习,在形成阶段使用错误的基准会使神经拟态工程朝着错误的方向发展。czvednc

在更早的一篇论文中,Blume-Kohout首先对不良基准测试的危险性提出了警告。czvednc

阿贡国家实验室的Jack Dongarra在1980年代计算机行业迅速发展之初曾努力寻找评估计算机的最佳方法,他也补充说:“计算机的价值取决于其如何使用,而计算机的使用又因应用、工作负载和时间而异。”czvednc

Dongarra还断言:“对一个场合有效的评估可能对另一个场合无效,而现在有效的评估可能在很短时间之后就不再有用。”czvednc

于是就有了这样的警告:“尽管基准在性能评估中是必不可少的,但简单地应用它们可能会产生误导性结果。事实上,不当的基准测试可能比根本没有基准测试更糟糕。”他总结道。czvednc

接下来,我将深入了解研究人员会尝试哪些方法来解决基准测试的难题。czvednc

(原文刊登于EDN姐妹网站EETimes美国版,参考链接:Why Benchmarking Neuromorphic Computing is Hard,由Jenny Liao编译。)czvednc

本文为《电子技术设计》2021年11月刊杂志文章,版权所有,禁止转载。免费杂志订阅申请点击这里czvednc

本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • Ignion选用AWS云服务来变革物联网设计流程 Ignion宣布推出天线设计智能云服务Antenna Intelligence Cloud,该服务将云计算和人工智能功能引入到天线领域。
  • Microchip模拟嵌入式SuperFlash技术助力存算一体创新 SuperFlash memBrain存储器解决方案使知存科技片上系统(SoC)能够满足最苛刻的神经处理成本、功耗和性能要求
  • 用TinyML开始设计——开发评估套件 本文中展示的开发套件和评估板得到一些流行的机器学习库和用于 TinyML 工作流程资源的支持,包括用于微控制器的 Google TensorFlow Lite 和 Edge Impulse,因而它们能够成为您第一个项目的理想起点。
  • “中国IC设计成就奖”提名产品简介:高性能GPU芯片及解 沐曦致力于提供国际顶尖的高性能通用GPU芯片及解决方案,结合我国人工智能等领域对GPU芯片的强烈市场需求,对标当前国际领先的GPU芯片产品立项开展技术研发。
  • “中国IC设计成就奖”提名产品简介:全志科技高性能智能 高性能三重异构智能语音应用处理器R329芯片,采用业界先进的半导体工艺,首款集成Arm中国周易语音处理器。集成DSP、NPU、64位CPU及丰富的外设接口,创新突破了低功耗、边缘语音AI超级算力、多重异构通讯、多核调度等关键技术,处于国内领先水平。
  • “中国IC设计成就奖”提名产品简介:追萤3D AI芯片Ai310 埃瓦科技自主研发的追萤 3D AI芯片创新的采用了异构架构 SOC 设计和微内核架构设计,包含 NPU 神经网络加速核、3D 立体匹配加速核、ISP 核等功能性处理核心;其中 NPU 神经网络加速核基于可重构以及片上多级存储和缓存设计,使数据可高效送达加速核心,使该芯片拥有领先的高效智能处理能力、分析以及低功耗管理的能力;其设计架构的资源复用性使硬件计算单位可灵活分配,适应于不同场景的计算需求;在 3D 视觉算法加速方面创新的采用了自研立体匹配算法的 3D 加速微内核架构设计,可有效加速双目立体视觉、结构光等多种 3D 视觉算法。
  • “中国IC设计成就奖”提名产品简介:ada200优势 1.九天睿芯,感存算一体芯片,可以在功耗和性能满足”低功耗AI场景“的同时,成本也大幅度下降。2.采用模数混合的存内计算架构,ADA200相比传统数字芯片,1/3成本,1/10功耗。
  • “中国IC设计成就奖”提名产品简介:面向边缘视觉分析的 面向边缘视觉分析的数据流AI芯片CAISA是鲲云科技自主研发的专为人工智能图像提供高性能计算加速的AI芯片产品,是全球首个量产的数据流AI芯片。
  • “中国IC设计成就奖”提名产品简介:人工智能语音芯片CI 1、人工神经网络硬件引擎架构:具备高计算性能,进行神经网络计算时相当于数十个CPU并行计算的能力;低访问带宽和低功耗,通过并行计算和共用神经元权重参数,大幅降低访问带宽及功耗;高可配置性,支持神经元层数和节点数、神经网络结构的配置。 2、单、双、及麦克风阵列降噪增强技术:支持各种平稳、非平稳环境噪声抑制;可支持线阵、圆阵结构等常用麦阵结构;采用定向波束形成与自适应信号处理技术相结合;拾取方向动态可调;支持单声道、立体声等回声抑制;采用独立研发的空间预测技术,支持强回声情况下回声抑制;与降噪处理技术相结合;自动增益调节、高通、带通滤波等。 3、低功耗和可靠性设计技术:具备低功耗集成电路设计技术,包括基于活动语音检测的低功耗控制技术和时钟门控技术。 4、逻辑设计技术:掌握了语音信号处理IP的设计方法,包括算法硬件化、定点、浮点运算处理等。同时积累了整套SoC设计所需的控制类IP,并成功通过流片验证。
  • “中国IC设计成就奖”提名产品简介:智能安防AI SoC芯片 亿智SV826是2021年推出的高性能的安防AI SoC芯片,主要面向视频编解码AI摄像机产品。
  • “中国IC设计成就奖”提名产品简介:低功耗视觉AIoT SoC 亿智SH516芯片是亿智电子2021年推出的一款低功耗的智能视觉AIoT SoC芯片。
  • “中国IC设计成就奖”提名产品简介:高性能大算力全场景 - AI性能跑分更强,超越Nvidia Orin - 应用当前先进的安全技术和研发流程 - 国内唯一可获得、支持快速量产的整车智能计算平台芯片
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了