广告

神经拟态计算基准测试难在哪里?

2021-11-15 11:20:00 Sunny Bains 阅读:
神经拟态计算基准测试难在哪里?
神经拟态计算是工程师正在尝试的一个全新领域,不易与其他系统进行比较可能是这项技术的一个难点。基准测试过去几年已逐渐成为神经拟态工程的热门话题,对于使用不同接口、编码、技术和方法的神经拟态系统,开发人员要如 何进行基准测试并且要花多长时间呢?

新技术的成功在一定程度上取决于这种技术所带来的价值,简单说就是要证明新技术比竞争对手的技术好。新技术只有带来新的价值,才能吸引投资者,并让管理者满意。在现有产品的基础上设计一个更小、更快、更轻、更有效的替代品相对比较容易,而创造一个完全不同的新东西要困难得多。6wRednc

神经拟态计算就是工程师正在尝试的一个全新领域,不同系统之间(神经拟态和其他系统)不易进行比较可能是这项技术的一个难点。6wRednc

产生这个难点的一部分原因是因为该领域很复杂。神经拟态技术是从大脑汲取灵感。但正如我们之前所讨论的,要将灵感变为现实,从硬件层面来看有很多种方法,如模拟或数字、尖峰或非尖峰、连续或离散时间、虚拟或直接神经元连接。6wRednc

不同工作小组的目标和重心有时候也各不相同。一些想要仿真生物学,一些专注于能源效率,另外一些希望仿真类人智能,还有一些则只想为日常机器学习的难题找到实用的解决方案。6wRednc

那么,对使用不同接口、编码、技术和方法的神经拟态系统,开发人员要如何进行基准测试并且要花多长时间呢?基准测试过去几年已逐渐成为神经拟态工程的热门话题。实际上2016年就已经开始比较不同应用中的系统,或者运行不同的算法、网络或算法/网络集了,仅今年就发表了三项有关这一主题的研究。6wRednc

我们将在以后的文章中讨论这些研究,本文的重点是理解为什么基准测试仍是一个难题。6wRednc

细节很重要

我们来执行一项学习或识别任务,然后比较其在不同实验系统上的表现。首先,必须选择一项能够在所有系统中执行的任务,尽管这些系统在设计之初可能并没有考虑到这一点。此外,必须考虑整个过程(从加载任务、运行任务到产生输出)以及每个步骤是否都得到了优化。6wRednc

如果没有优化(这是新技术的常见问题),则必须将测量指标进行细分,使之仅用于有关的系统,而非用于整个基础设施(支持这些系统所需)。6wRednc

硬件也可以用这样一种方式来构建,使其能产生适当的数据用于分析,包括不同阶段的性能或功耗。然而,情况往往并非如此。6wRednc

FLOPS(每秒浮点运算)能让事情变得容易,但目前还没有其它等效方法。工程师们尝试使用MAC(乘法累加运算),但MAC更适于深度学习,并不能反映神经拟态工程的复杂性。6wRednc

突触操作也不适用,因为完成任务的方式太多,可以使用的学习规则太多,编码方式太多,突触和神经元功能也太多。6wRednc

即使这些都不是问题,大家都知道,要使系统软件运行,必须对编译器进行量身定制,无一例外。否则,即使是最好的系统也会表现不佳。6wRednc

不良基准的危害

为了更好地理解,让我们看看神经拟态之外的其他技术。桑迪亚国家实验室的Robin Blume-Kohout对量子计算机的基准测试很感兴趣。在一次题为“Not All Benchmarks Are Created Equal”的演讲中,Blume-Kohout表示,对于任何处于早期开发阶段的技术,依赖其基准都是有难度的。6wRednc

他在2018 年的一份技术报告中强调了这一论点,“当今最先进的量子处理器如同处于婴儿阶段。用于成人的测试指标和基准(例如智商或SAT分数)显然不适用于婴儿;婴儿的任务只有一个,就是成长。6wRednc

“监控婴儿成长需要的技能和知识与评估成人所需的完全不同,”他继续说,“孩童与不成熟的技术一样,其成长与进步并非凭直觉能观察到,有时甚至还出现倒退(例如掉乳牙或进入青春期)。”6wRednc

与量子计算相比,神经拟态工程处于更先进的阶段,一些神经拟态系统已经投入实际应用,尽管大部分还是小规模的。但Blume-Kohout的观点对处于“青少年时期”的技术也是有效的。就像在学校,过度考试会让孩子擅长考试却不擅长独立学习,在形成阶段使用错误的基准会使神经拟态工程朝着错误的方向发展。6wRednc

在更早的一篇论文中,Blume-Kohout首先对不良基准测试的危险性提出了警告。6wRednc

阿贡国家实验室的Jack Dongarra在1980年代计算机行业迅速发展之初曾努力寻找评估计算机的最佳方法,他也补充说:“计算机的价值取决于其如何使用,而计算机的使用又因应用、工作负载和时间而异。”6wRednc

Dongarra还断言:“对一个场合有效的评估可能对另一个场合无效,而现在有效的评估可能在很短时间之后就不再有用。”6wRednc

于是就有了这样的警告:“尽管基准在性能评估中是必不可少的,但简单地应用它们可能会产生误导性结果。事实上,不当的基准测试可能比根本没有基准测试更糟糕。”他总结道。6wRednc

接下来,我将深入了解研究人员会尝试哪些方法来解决基准测试的难题。6wRednc

(原文刊登于EDN姐妹网站EETimes美国版,参考链接:Why Benchmarking Neuromorphic Computing is Hard,由Jenny Liao编译。)6wRednc

本文为《电子技术设计》2021年11月刊杂志文章,版权所有,禁止转载。免费杂志订阅申请点击这里6wRednc

本文为电子技术设计原创文章,未经授权禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 因眼睛小车主被辅助驾驶误判“开车睡觉”,小鹏、蔚来回 昨日,汽车博主@常岩CY 发博称自己突然上了热搜,原来就是因自己眼睛小被小鹏汽车自动驾驶误判“开车睡觉”,不住的发出提醒。此外,@常岩CY 称在多款车型上都收到此困扰。无论是红外还是摄像头,只要开始检测眼睛,就会判定过度疲劳。小鹏P7会提示他睡觉,蔚来ET7一开车就认为其疲劳和走神,岚图FREE会在冬天为了让其“别困”而打开冷风……
  • 国际象棋机器人Chessrobot夹断对手手指,意外还是设计缺 据悉,在7月19日的莫斯科国际象棋公开赛期间,一位7岁小男孩疑似因提前走子犯规手,意外被“对手”国际象棋机器人Chessrobot夹住手指,造成指骨骨折,该事件登上了热搜榜。该男孩是莫斯科9岁以下最强的30位棋手之一。
  • “智能家居”未来将可通过呼吸控制操作 凯斯西储大学的研究人员创造了一个简单的原型设备,使用户能够通过改变他们的呼吸模式来控制“智能家居”。这种自供电装置可放入鼻孔,并有可能提高行动不便或无法清晰说话的人的生活质量。如果个人呼吸困难,它也可以编程为医务人员提供自动警报。
  • 核酸采样机器人将取代“大白”?用了哪些技术保证采样准 取棉签、核酸采样、储存核酸采样管、设备消杀……动作精准流畅,今后给你核酸采样的可能不再是“大白”,而是机器人。EDN小编就带大家来看看,目前已被使用的核酸采样机器人有哪些?
  • 一个AI程序就可将手机电池增加30% 一项尖端的人工智能开发可以将智能手机的电池寿命延长 30%。这项应用则是利用 AI 分析正在使用的应用程序的 FPS 变化,并试图找到 CPU 和 GPU 处理器的最佳运行频率以适应变化,同时消耗设备中最少的功率和温度增益……
  • AI视觉芯片如何赋能两轮车出行? 6月29日,在由全球领先的专业电子机构媒体AspenCore和深圳市新一代信息通信产业集群联合主办的“2022国际AIoT生态发展大会-智慧两轮车分论坛”中,嘉楠科技副总裁汤炜伟以《勘智AI视觉芯,赋能智眼两轮行》为主题,向大家分享了嘉楠地芯片设计创新历程,及其RISCV架构AI芯片技术路线图,并以具体案例展示AI视觉芯片如何赋能两轮车出行。
  • 碎片化、成本高是难题,AIoT行业需要哪些改变? 作为AIoT的行业基石,物联网市场到2022年预计将达到 144 亿活跃连接。随着供应限制的缓解和增长的进一步加速,IoT Analytics 最新预测指出,到2025年全球将有大约 270 亿台联网物联网设备。中国物联网链接到2025年也将达到80亿。随着整个AIoT和IoT市场的快速成长与变化,我们将面临哪些风险和挑战?
  • 英特尔张宇:边缘AI有三个阶段,我们还处在山脚 在AspenCore举办的“2022国际AIoT生态发展大会”上,英特尔公司高级首席工程师、物联网事业部中国区首席技术官张宇博士通过视频方式分享了“边缘AI技术发展趋势与展望”主题演讲。
  • 世界上尺寸最大的芯片Wafer Scale Engine-2打破了在单 Cerebras公司售价数百万美元的“全球最大AI芯片”Wafer Scale Engine-2又有新消息,在基于单个Wafer Scale Engine-2芯片的CS-2系统上训练了世界上最大的拥有200亿参数的NLP(自然语言处理)人工智能模型。
  • 婴儿或可帮助解锁下一代人工智能 都柏林圣三一学院的神经科学家及其同事刚刚发布了改进人工智能的新指导原则,他们表示,婴儿可以帮助解锁下一代人工智能(AI)。
  • 日本要利用机器学习实现半导体研究自动化 新型薄半导体材料的开发需要对大量反射高能电子衍射(RHEED)数据进行定量分析,既耗时又需要专业知识。为了解决这个问题,东京理科大学的科学家们确定了可以帮助自动化 RHEED 数据分析的机器学习技术。他们的发现可以极大地加速半导体研究,并为更快、更节能的电子设备铺平道路。
  • 纯视觉自动驾驶更安全?美国交通部发布数据打脸特斯拉 特斯拉的纯视觉自动驾驶到底效果如何?真的如马斯克所说的:“通过摄像头和计算机网络让自动驾驶比人类驾驶更安全”吗?近日美国国家公路交通安全管理局发布了一份新的数据,颇有打脸特斯拉的意味。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了