广告

联合式学习开启AI运算新篇章

2020-07-09 MAJEED AHMAD, EDN执行主编 阅读:
人工智能(AI)本身是一种颠覆性的技术,而联合式学习(federated learning)则可能会是颠覆AI的一种方法……

人工智能(AI)本身是一种颠覆性的技术,而联合式学习(federated learning)则可能会是颠覆AI的一种方法──瑞士洛桑联邦理工学院(Ecole Polytechnique Federale de Lausanne,EPFL)教授暨嵌入式系统实验室(Embedded Systems Laboratory)总监David Atienza率先开发了一种解决方案,可替代传统集中式的机器学习(ML)。xqxednc

关键的差异在于,联合式学习是在多个保存本地数据样本而不会交换它们的去中心化边缘装置或服务器上进行特定ML训练,这可降低对隐私保护的疑虑以及能源消耗,因为数据不会移动到云端或是中央数据库。xqxednc

联合式学习在蔓延全球的新冠病毒疫情中也能发挥作用。Atienza领导的EPFL团队正在实验一种能结合来自各种咳嗽症状监测装置的数据,以提升初始诊断精确度的AI系统──根据世界卫生组织(WHO)统计,有三分之二的新冠病毒肺炎患者会出现干咳的症状,而医护人员若能在就医者进入急诊室时先掌握到这类症状,可早期发现确诊病患。xqxednc

透过该AI系统,工程师能将从不同咳嗽样本取得的个别数据相关联,以创建一个更复杂精密的模型。Atienza接受《EE Times》访问时表示,该AI系统项目就是采用联合式学习的概念,让设计者能使用一系列传感器来观察特定的征象。虽然这些传感器无法全面观察被指派的对象,但有助于建立一个简化的模型并与其他类似的模型结合,然后生成一个完整的AI模型。xqxednc

AI运算新篇章

联合式学习是2017年由Google所提出,为需要利用具备庞大运算力之集中式数据中心来执行的传统机器学习提供可行替代方案,也为无力负担大型数据中心的新创公司与中小企业提供了自建ML模型的途径。此外,在大型数据中心进行训练的机器学习模型,其数据隐私保护往往是一个主要顾虑,这种新架构是在装置本地储存数据,对于隐私较有保障。xqxednc

Atienza在介绍联合式学习概念时表示,人们可以想象这是收集数据以训练AI模型的中央辅助系统;而联合式学习也能让物联网(IoT)更具适应性,从位于不同据点的小型数据集(dataset)中学习。他补充指出,分散各处的传感器收集数据进行模型训练并非独立作业,而是透过一个做为数据交换数据库的(加密)共享端点。xqxednc

在传感器内部执行学习时,该共享数据库或服务器会协助传感器将观察到的数据同步化,并建立共享模型。Atienza解释:“在完全分布式的学习中,没有将装置联合并同步化的数据库;因此像是传感器等装置无法互相沟通,也没有一个中央单元负责协调。”xqxednc

除了完全分布式的系统会更复杂,联合式学习还有助于解决许多问题并提供良好结果。例如在医疗应用中,不同的诊所能联合开发AI模型,又不直接分享敏感的病患个资。xqxednc

xqxednc

在医疗应用环境采用联合式学习。(图片来源:Carnegie)xqxednc

联合式学习也为AI开启了全新的运算典范,工程师能执行本地的神经网络训练,并为有效的训练找到正确数据。Atienza表示,这有助于促进机器学习应用的发展,例如自然语言处理以及档案/文件处理。xqxednc

他指出:“现在AI解决方案的焦点集中在人类无法做得很好的任务上,设计工程师(透过联合式学习)能在数据集中纳入可取得的数据与丛集以支持特定算法;在将数据进行分类后,就能建立更好、个人化的机器学习模型。”xqxednc

可编程的“迷你”加速器

联合式学习需要什么样的硬件?对此Atienza表示,相较于目前支持特定机器学习应用的AI加速器,联合式学习所需的硬件解决方案必须更“多才多艺”;他指出,像是一群迷你加速器的粗粒度可重配置数组(coarse grained reconfigurable array,CGRA)解决方案,就能针对特定使用案例进行配置。xqxednc

Atienza解释,CGRA解决方案能保留一种基础架构,也就是设计工程师能在不同的AI应用使用相同的芯片,只更改芯片的可编程部分。xqxednc

xqxednc

支持某个联合学习应用的CGRA解决方案。(图片来源:EPFL)xqxednc

CGRA网状网络能藉由利用多样化运算核心(computational kernels)的可重配置解决方案提供高度灵活性;与FPGA设计相似,是紧密互连的2D可重配置单元(reconfigurable cells,RCs)网状网络结构。但这种技术能让加速器在作业层级(operation level)可编程,不同于FPGA是位层级(bit level)的可重配置数组、具备相当的功耗开销。xqxednc

Atienza预期,支持这种联合式学习新技术的硬件,将会有越来越多的可配置功能,藉由芯片的编程来根据目前市场趋势、支持不同种类的AI任务;“联合式学习应用将会带动对可重新编程、利用大量迷你加速器的AI硬件之需求。”xqxednc

(原文发表于ASPENCORE旗下EDN姐妹网站EETimes,参考链接 :Federated Learning Demands More Programmable Hardware,编译:Judith Cheng;责编:Demi Xia)xqxednc

本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 爱芯元智沉浸式黑光体验,AI赋能让ISP没有上限 人工智能产业的逐渐成熟,驱动了AI芯片的快速发展,也对人工智能芯片的画质提出了更高的要求,现有的镜头与传感器在物理学上已经接近极限,ISP(Image signal processor)作为SoC中负责画质处理和提升的主要单元,其发展也已经达到‘天花板’,业界迫切需要找到新的方式来提升画质。AI赋能ISP成为画质升级的最优解。
  • 安霸推出AI域控制器CV3系列SoC,单芯片即可实现ADAS及L4 CV3系列汽车专用SoC以5纳米超低功耗制程达到空前的单芯片500 eTOPS AI算力,同时支持高分辨率摄像头、毫米波雷达、激光雷达和超声波雷达。
  • “AI+税务”,追查“雪梨、薇娅们”偷逃税的技术难度并 过去几天,网友连续吃瓜,而最令人惊叹的当属头部网红主播薇娅因偷逃税罚款共计13.41亿元一事了。据EDN小编发现,浙江省税务局的官方通报显示:案件是“经过大数据分析发现”的。这让人不免好奇,什么是税收大数据分析?税务系统的大数据是如何分析出这些网红主播们偷逃税的?
  • HBM3内存:向更高的带宽突破 随着数据中心对人工智能和机器学习(AI/ML)的利用率越来越高,大量数据不断被产生和消耗,这给数据中心快速而高效地存储、移动和分析数据提出了巨大挑战。
  • 美光GDDR6X超带宽解决方案——始于显存,不止显存 沉浸式游戏、高性能计算中的建模和可视化、以及人工智能等应用,在很大程度上都依赖于内存性能。因此,美光推出了GDDR6X超带宽解决方案——世界上最快的独立显存,也是首款支持1 TB/s系统带宽的解决方案。
  • “元宇宙”落地之路:新场景与三大硬科技机会 最近一段时间“元宇宙”一词火爆全网和电子信息圈,尤其是在Facebook不再要Face而改名为Meta之后更是形成了一个小高潮,但是很多人是从游戏、VR/AR等角度去诠释这个Metaverse新词,但元宇宙的本质是一种近乎完全数字化的生活和工作环境。所以尽管游戏等行业和应用也许是最快导入元宇宙的领域,但是我们认为自动驾驶汽车、服务型制造、数字孪生、远程教育和医疗等都是向元宇宙方向出发的新场景,而元宇宙也离不开数据处理加速器、数字人民币等信息安全技术和新一代网络连接技术的支撑。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了