广告

技术专家:明确的机器学习目标是实现AI安全性关键

2022-01-21 16:05:32 George Leopold 阅读:
美国乔治敦大学安全与新兴技术中心的一篇论文指出,克服机器学习的规格描述挑战,是迈向更高AI安全性的关键步骤。

设计机器学习应用程序的一个关键挑战,是在软件程序代码当中精确地描述开发者想要系统执行的工作。美国乔治敦大学Georgetown University)安全与新兴技术中心(Center for Security and Emerging Technology)不久前发表的一篇论文作者强调,克服机器学习的规格描述挑战,是迈向更高人工智能(AI)安全性的关键步骤。oddednc

上述论文作者将AI安全性规格(specification)定义为在程序代码中传达机器学习系统应该要执行之工作的详细描述,或者他们所称的“人类特有目标”(human-specific objective)。一个例子是在排列的图片方块中找出“红绿灯”的CAPTCHA图砖验证系统(EETT编按:在一些网站可以见到,用以区分机器人与人类的验证步骤)。而像是训练模型的步骤规则未包括在内。oddednc

为了让机器学习能辨识各种图形,开发人员会详述关键目标。该目标函数代表一套学习算法的核心成分,阐述一个模型在搜集更多的训练资料时该如何学习。oddednc

 oddednc

oddednc

为机器学习订定明确目标是确保AI安全性关键。oddednc

 oddednc

而在开发者试图从功能有限的应用程序迈进更具挑战性的真实世界应用程序之同时,AI安全性规格是研究人员最关注的议题之一。上述乔治敦大学论文的共同作者Helen Toner在接受访问时表示:“已经有越来越多基础研究聚焦于AI安全性与可靠性,以及对AI性能的理解。”oddednc

她指出:“那些AI系统的可解释性(interpretability),在此是另一个真正有用的输入,能让你了解,依据应用以及哪一类保证是你所需要的,是否有更好的方法从概念上去了解这些系统里面到底发生什么事情,这也是相当有价值。在我看来,这是此堆栈底部的基础科学部份。”oddednc

随着机器学习逐渐演进,从产品推荐等较狭窄的应用,发展到诸如自动驾驶等关键性任务,对于安全性规格的需求也跟着成长。“当机器学习系统变得更先进,将会被配置在越来越复杂的环境,以执行日益复杂的任务;”论文作者指出:“这时候规格问题可能会开始变得棘手。”oddednc

该作者指出,对开发者来说,更大的责任是以新的方法在程序代码中传达其意图,让机器学习服从“被赋予的规则之字面意义,并非精神。”包含人类监督或迈向预测最坏情况之步骤的算法,被推荐做为一个克服“错误设定规格”的方法。oddednc

还需要的是更多研究,了解开发人员如何在程序代码当中传达细微、复杂的目标,并确保他们所设计的系统能够达成这些目标。而在那之前,论文作者警告,机器学习仍应该被局限在“狭窄、严格规范的设定中。”oddednc

(参考原文:Specifying Objectives is Key to AI Safety,本文同步刊登于《电子工程专辑》杂志20221月号)oddednc

责编:Demi
本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
George Leopold
EE Times特约编辑。自1986年以来,George Leopold一直在华盛顿特区撰写有关科学和技术的文章。除了EE Times,Leopold的作品还出现在《纽约时报》(New York Times),New Scientist和其他出版物上。 他住在弗吉尼亚州雷斯顿。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 2021年MIPI三个值得关注的更新:MIPI I3C Basic、A-PH 在2021年,MIPI 为移动、物联网 (IoT)、汽车和相关行业采用了创纪录数量的新的和更新的接口规范。尤其是 2021 年的三个关键版本引起了媒体的极大兴趣和报道: MIPI I3C Basic℠
  • 俄罗斯银行卡采购两家中国芯片,会是谁? 由于亚洲制造商在疫情期间暂停生产,以及欧洲供应商在制裁后已停止与莫斯科合作的影响,面临微芯片短缺的俄罗斯转而寻求中国企业合作,目前已有两家中国企业进入了认证过程。在几代IC人的努力探索与开拓之下,中国金融IC卡芯片产品具备了进军国际市场的能力……
  • 12代酷睿处理器出现卷曲变形问题?英特尔这样回应 有网友称12代酷睿Alder Lake升级为LGA1700接口后,处理器会产生卷翘变形,使散热器和芯片之间产生间隙,最终削弱散热效果, 对此, Intel回应表示:12代酷睿的IHS(集成式散热,其实就是“顶盖”)没有收到超出设计的投诉……
  • 2022年Q1全球PC出货量下降,仅Mac逆势上升 Gartner昨日发布了最新的PC 出货量预测数据,结果显示,2022 年第一季度全球 PC 出货量总计 7750 万台,比 2021 年第一季度下降 7.3%。但2022 年第一季度苹果的全球 Mac 出货量略有增长。数据显示,苹果在本季度的 Mac 出货量估计为 700 万台,高于去年同期的 650 万台,增长率为 8.6%。
  • 英特尔、美光和 ADI 加入美国半导体联盟,助美半导体与 美国三大芯片制造商英特尔、美光和ADI日前已加入Miter Engenuity的半导体联盟,以加快半导体研究、开发和原型设计,以建立更强大的美国半导体产业,促进美国的先进制造业,并在全球竞争激烈的情况下保护知识产权竞赛。
  • Pixel智能手机演变:最新功能与个人化 当我在为明年Pixel 4a (5G)的动向做准备时,我想听听其他Android生态系统参与者的意见:您对于Google的Pixel手机——尤其是Pixel 4a (5G)有什么看法?相对于您可能使用其手机的其他公司的产品呢?
  • 北京开芯院成立,国产开源 RISC-V 处理器“香山”项目正 日前,中科院计算技术研究所副所长、RISC-V国际基金会理事会成员包云岗透露,中科院计算所牵头,多家企业联合开发的开源高性能 RISC-V 处理器核“香山”有了新的归属——北京开源芯片研究院(开芯院)。
  • 小米汽车公开首个专利,“年轻人的第一台汽车”是纯电动 近日,小米汽车科技有限公司成立以后公开了第一个专利:多相电机的控制方法、装置及可读存储介质,可以提升电驱动系统的可靠性。鉴于雷军此前多番拜会特斯拉CEO马斯克,因此有业内人士认为该项专利可能表示“年轻人的第一台汽车”大概率是一辆具备自动驾驶性能的高性价比纯电动车。
  • 英伟达称其144核心超级芯片比英特尔Ice Lake快2倍 Nvidia 在3月底的GTC上推出了其新的144核 Grace CPU Superchip,日前外媒在 Nvidia 加速计算业务部门副总裁 Ian Buck 的 GTC 演示中发现了 Grace 与 Intel Ice Lake 的基准。该基准声称,在 HPC 中常用的天气研究和预报 (WRF) 模型中,Grace 比英特尔当前的 Ice Lake 快 2 倍,能效高 2.3 倍。
  • 蜂蜜可用于制造忆阻器?大小与人类的头发差不多 表在Journal of Physics D上的一项研究中,研究人员表明,蜂蜜可用于制造忆阻器,这是一种类似于晶体管的组件,不仅可以处理数据,还可以将数据存储在内存中。
  • 布局区块链五年,英特尔正式推出区块链芯片 近日,Intel正式推出了一款芯片来加速分布式账本区块链安全应用程序的使用,该芯片使用了与二月份在 ISSCC 会议上详细介绍的加密货币挖掘Bitminer芯片中相同的技术。事实上Intel在区块链领域的布局早已有之。
  • 松下将在三年内向电动汽车电池和供应链软件领域投资60 日前,松下表示将在截至 2025 财年的未来三年内,在汽车电池和供应链软件等领域共投资 6000 亿日元(49 亿美元)。这家日本企业集团表示,总投资金额将被分割,其中 4000 亿日元将用于其认为的“增长领域”,例如汽车电池和供应链软件,其余 2000 亿日元将用于技术等领域。作为网络物理系统。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了