广告

联合式学习开启AI运算新篇章

2020-07-09 14:01:33 MAJEED AHMAD, EDN执行主编 阅读:
人工智能(AI)本身是一种颠覆性的技术,而联合式学习(federated learning)则可能会是颠覆AI的一种方法……

人工智能(AI)本身是一种颠覆性的技术,而联合式学习(federated learning)则可能会是颠覆AI的一种方法──瑞士洛桑联邦理工学院(Ecole Polytechnique Federale de Lausanne,EPFL)教授暨嵌入式系统实验室(Embedded Systems Laboratory)总监David Atienza率先开发了一种解决方案,可替代传统集中式的机器学习(ML)。7lUednc

关键的差异在于,联合式学习是在多个保存本地数据样本而不会交换它们的去中心化边缘装置或服务器上进行特定ML训练,这可降低对隐私保护的疑虑以及能源消耗,因为数据不会移动到云端或是中央数据库。7lUednc

联合式学习在蔓延全球的新冠病毒疫情中也能发挥作用。Atienza领导的EPFL团队正在实验一种能结合来自各种咳嗽症状监测装置的数据,以提升初始诊断精确度的AI系统──根据世界卫生组织(WHO)统计,有三分之二的新冠病毒肺炎患者会出现干咳的症状,而医护人员若能在就医者进入急诊室时先掌握到这类症状,可早期发现确诊病患。7lUednc

透过该AI系统,工程师能将从不同咳嗽样本取得的个别数据相关联,以创建一个更复杂精密的模型。Atienza接受《EE Times》访问时表示,该AI系统项目就是采用联合式学习的概念,让设计者能使用一系列传感器来观察特定的征象。虽然这些传感器无法全面观察被指派的对象,但有助于建立一个简化的模型并与其他类似的模型结合,然后生成一个完整的AI模型。7lUednc

AI运算新篇章

联合式学习是2017年由Google所提出,为需要利用具备庞大运算力之集中式数据中心来执行的传统机器学习提供可行替代方案,也为无力负担大型数据中心的新创公司与中小企业提供了自建ML模型的途径。此外,在大型数据中心进行训练的机器学习模型,其数据隐私保护往往是一个主要顾虑,这种新架构是在装置本地储存数据,对于隐私较有保障。7lUednc

Atienza在介绍联合式学习概念时表示,人们可以想象这是收集数据以训练AI模型的中央辅助系统;而联合式学习也能让物联网(IoT)更具适应性,从位于不同据点的小型数据集(dataset)中学习。他补充指出,分散各处的传感器收集数据进行模型训练并非独立作业,而是透过一个做为数据交换数据库的(加密)共享端点。7lUednc

在传感器内部执行学习时,该共享数据库或服务器会协助传感器将观察到的数据同步化,并建立共享模型。Atienza解释:“在完全分布式的学习中,没有将装置联合并同步化的数据库;因此像是传感器等装置无法互相沟通,也没有一个中央单元负责协调。”7lUednc

除了完全分布式的系统会更复杂,联合式学习还有助于解决许多问题并提供良好结果。例如在医疗应用中,不同的诊所能联合开发AI模型,又不直接分享敏感的病患个资。7lUednc

7lUednc

在医疗应用环境采用联合式学习。(图片来源:Carnegie)7lUednc

联合式学习也为AI开启了全新的运算典范,工程师能执行本地的神经网络训练,并为有效的训练找到正确数据。Atienza表示,这有助于促进机器学习应用的发展,例如自然语言处理以及档案/文件处理。7lUednc

他指出:“现在AI解决方案的焦点集中在人类无法做得很好的任务上,设计工程师(透过联合式学习)能在数据集中纳入可取得的数据与丛集以支持特定算法;在将数据进行分类后,就能建立更好、个人化的机器学习模型。”7lUednc

可编程的“迷你”加速器

联合式学习需要什么样的硬件?对此Atienza表示,相较于目前支持特定机器学习应用的AI加速器,联合式学习所需的硬件解决方案必须更“多才多艺”;他指出,像是一群迷你加速器的粗粒度可重配置数组(coarse grained reconfigurable array,CGRA)解决方案,就能针对特定使用案例进行配置。7lUednc

Atienza解释,CGRA解决方案能保留一种基础架构,也就是设计工程师能在不同的AI应用使用相同的芯片,只更改芯片的可编程部分。7lUednc

7lUednc

支持某个联合学习应用的CGRA解决方案。(图片来源:EPFL)7lUednc

CGRA网状网络能藉由利用多样化运算核心(computational kernels)的可重配置解决方案提供高度灵活性;与FPGA设计相似,是紧密互连的2D可重配置单元(reconfigurable cells,RCs)网状网络结构。但这种技术能让加速器在作业层级(operation level)可编程,不同于FPGA是位层级(bit level)的可重配置数组、具备相当的功耗开销。7lUednc

Atienza预期,支持这种联合式学习新技术的硬件,将会有越来越多的可配置功能,藉由芯片的编程来根据目前市场趋势、支持不同种类的AI任务;“联合式学习应用将会带动对可重新编程、利用大量迷你加速器的AI硬件之需求。”7lUednc

(原文发表于ASPENCORE旗下EDN姐妹网站EETimes,参考链接 :Federated Learning Demands More Programmable Hardware,编译:Judith Cheng;责编:Demi Xia)7lUednc

本文为电子技术设计原创文章,未经授权禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 因眼睛小车主被辅助驾驶误判“开车睡觉”,小鹏、蔚来回 昨日,汽车博主@常岩CY 发博称自己突然上了热搜,原来就是因自己眼睛小被小鹏汽车自动驾驶误判“开车睡觉”,不住的发出提醒。此外,@常岩CY 称在多款车型上都收到此困扰。无论是红外还是摄像头,只要开始检测眼睛,就会判定过度疲劳。小鹏P7会提示他睡觉,蔚来ET7一开车就认为其疲劳和走神,岚图FREE会在冬天为了让其“别困”而打开冷风……
  • 国际象棋机器人Chessrobot夹断对手手指,意外还是设计缺 据悉,在7月19日的莫斯科国际象棋公开赛期间,一位7岁小男孩疑似因提前走子犯规手,意外被“对手”国际象棋机器人Chessrobot夹住手指,造成指骨骨折,该事件登上了热搜榜。该男孩是莫斯科9岁以下最强的30位棋手之一。
  • “智能家居”未来将可通过呼吸控制操作 凯斯西储大学的研究人员创造了一个简单的原型设备,使用户能够通过改变他们的呼吸模式来控制“智能家居”。这种自供电装置可放入鼻孔,并有可能提高行动不便或无法清晰说话的人的生活质量。如果个人呼吸困难,它也可以编程为医务人员提供自动警报。
  • 核酸采样机器人将取代“大白”?用了哪些技术保证采样准 取棉签、核酸采样、储存核酸采样管、设备消杀……动作精准流畅,今后给你核酸采样的可能不再是“大白”,而是机器人。EDN小编就带大家来看看,目前已被使用的核酸采样机器人有哪些?
  • 一个AI程序就可将手机电池增加30% 一项尖端的人工智能开发可以将智能手机的电池寿命延长 30%。这项应用则是利用 AI 分析正在使用的应用程序的 FPS 变化,并试图找到 CPU 和 GPU 处理器的最佳运行频率以适应变化,同时消耗设备中最少的功率和温度增益……
  • AI视觉芯片如何赋能两轮车出行? 6月29日,在由全球领先的专业电子机构媒体AspenCore和深圳市新一代信息通信产业集群联合主办的“2022国际AIoT生态发展大会-智慧两轮车分论坛”中,嘉楠科技副总裁汤炜伟以《勘智AI视觉芯,赋能智眼两轮行》为主题,向大家分享了嘉楠地芯片设计创新历程,及其RISCV架构AI芯片技术路线图,并以具体案例展示AI视觉芯片如何赋能两轮车出行。
  • 世界上尺寸最大的芯片Wafer Scale Engine-2打破了在单 Cerebras公司售价数百万美元的“全球最大AI芯片”Wafer Scale Engine-2又有新消息,在基于单个Wafer Scale Engine-2芯片的CS-2系统上训练了世界上最大的拥有200亿参数的NLP(自然语言处理)人工智能模型。
  • 婴儿或可帮助解锁下一代人工智能 都柏林圣三一学院的神经科学家及其同事刚刚发布了改进人工智能的新指导原则,他们表示,婴儿可以帮助解锁下一代人工智能(AI)。
  • 日本要利用机器学习实现半导体研究自动化 新型薄半导体材料的开发需要对大量反射高能电子衍射(RHEED)数据进行定量分析,既耗时又需要专业知识。为了解决这个问题,东京理科大学的科学家们确定了可以帮助自动化 RHEED 数据分析的机器学习技术。他们的发现可以极大地加速半导体研究,并为更快、更节能的电子设备铺平道路。
  • 纯视觉自动驾驶更安全?美国交通部发布数据打脸特斯拉 特斯拉的纯视觉自动驾驶到底效果如何?真的如马斯克所说的:“通过摄像头和计算机网络让自动驾驶比人类驾驶更安全”吗?近日美国国家公路交通安全管理局发布了一份新的数据,颇有打脸特斯拉的意味。
  • 每秒可对近20亿张图像进行处理分类的“超级芯片” 在测试过程中,该团队制作了一个尺寸为 9.3 mm 2(0.01 in 2)的芯片,并将其用于对一系列类似于字母的手写字符进行分类。在对相关数据集进行训练后,该芯片能够对包含两种字符集的图像进行分类,准确率达到 93.8%,对四种类型的图像进行分类准确率为 89.8%。
  • 人工智能的创新发明,专利权属于谁? 随着人工智能技术的发展进步,近几年出现了许多涉及人工智能的发明,如2020 年,机器学习算法帮助研究人员开发了一种对多种病原体有效的抗生素(参见Nature),此外,人工智能 (AI) 也被用于帮助疫苗开发、药物设计、材料发现、空间技术和船舶设计。那么这些由人工智能发明的技术,专利到底归属于谁呢?
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了