广告

有点太像人类...又不够有人性的AI

2020-01-09 David Benjamin 阅读:
因为AI是如此被动吸收被馈入的数据,因此只能反映出存在于人类开发者心中的偏见──无论是有意识或无意识的…

目前使用于脸部辨识的人工智能(AI)算法似乎有着维多利亚时代优生学庸医的科学严谨度与社会敏感性,不过这种评判对于那些从1890年代活跃到1930年代的优生学庸医──他们通常最擅长的就是输卵管结扎(tying tubes)或动脑白质切除术(lobotomies)──大军来说并不公平,因为他们是被根深蒂固的种族主义偏见所驱使。TBBednc

美国国家标准暨技术研究院(The National Institute of Standards and Technology)最近完成了一项大规模调查,发现目前最先进的脸部辨识系统对于辨识非裔美国人与亚洲人脸孔的错误率,是辨识白种人脸孔的10到100倍。一篇《纽约时报》(New York Times)的报导指出:「这种技术在女性脸孔辨识上的困难度也高于男性脸孔;」而且事实证明,该类系统对年长民众特别有敌意,辨识老年人的错误率是辨识中年人的10倍以上。TBBednc

稍早之前美国麻省理工学院(MIT)的一项研究发现,亚马逊(Amazon)开发的脸部辨识软件将较深肤色女性错误辨识为男性的比例是31%,甚至认为美国前第一夫人米歇尔˙欧巴马(Michelle Obama)是男人。(而从那时候起,Amazon还有Apple、Facebook与Google,都拒绝让任何人测试它们的脸部辨识技术。)TBBednc

不同于古时候的优生学者或是颅相学者(phrenologists),脸部辨识算法是没有先入为主观念或偏执的种族主义者;你或者能将它们与德国纳粹时代集中营的守卫相提并论──他们在成为战犯受审时曾提出,他们并非受种族主义驱使,他们只是简单、忠实、无意识地执行命令,他们没有别的选择。TBBednc

因为那些守卫说谎,所以这样的模拟也不对。算法不会说谎,也不会思考,你不能与之对话,它们也没有选择;在这一点上,算法还不如一只狗。我曾与狗狗有过对话──大部份是单向的,但很奇妙地颇具意义──且清楚表达了我的想法;而狗狗也是有意见的,牠们喜欢某些人、不喜欢某些人,牠们对于那些偏好的理由通常很明显。TBBednc

也许有一天算法、机器与机器人能追上一只聪明的狗狗,也会形成自己的观点;但如同科幻小说作家C. Clarke与Philip K. Dick等先知曾暗示过的,这可能并非值得庆幸的突破。你可能记得,在根据Dick的小说《仿生人会梦见电子羊吗?》(Do Androids Dream of Electric Sheep)改编之电影《银翼杀手》(Blade Runner)中,演男主角的哈里逊˙福特(Harrison Ford)试图说服一对固执己见的人造人Roy与Pris应该乐意接受自我毁灭,但它们还是要杀掉他。TBBednc

幸好我们现在的科技还没办法打造出像是科幻小说/电影里那些固执不通的AI;我所想的这些更适合拿来模拟的,或许是1983年的老电影《战争游戏》(War Games)中的WOPR电子大脑Joshua。Joshua拥有能在1分钟左右的时间之内模拟出百万颗氢弹爆炸场景的运算力与速度,但是不受支配,因为有充分的理由与证据指出全球核战的观念是无益的──而且基本上是邪恶的。Joshua是在处理了好几个YB (yottabytes)的数据以及几乎炸毁所有北美防空司令部(NORAD)的保险丝之后,才得出如此纯粹务实的结论。TBBednc

需要的是数据而非说服力

Joshua决定不毁灭世界,是被数据而非说服力所说服。但反过来说,有很多聪明的人类无论提供他多么大量的数据,都很难被说服。今日有些狂热份子仍固执地相信,核子战争能赢得胜利,而数十亿人类的生命都是为了如此甜美胜利可忍受付出的代价。TBBednc

在可见的算法演进中,这种顽固而彻底的人类观点是无法实现的;当它成为可能,是我们并不想要的。而或许实现核子战大屠杀要比脸部辨识大屠杀来得容易?TBBednc

人脸可说千变万化,会随着人生阶段持续改变,比战争的面貌更多样化,没有现存算法能掌握其所有细微差别、表情与多变性,似乎也没有魔法公式很快出现。在此同时,脸部辨识技术只会跟创造它的人类一样客观与精准,这意味着今日的脸部辨识AI会像是3K党那样的种族主义者,也会像新生儿那般无种族偏见,但我们不知道它何时会是前者、何时是后者。TBBednc

因为AI是如此费解的中立、如此被动吸收所有馈入的数据,它不得不反映所有人类开发者内心与思想上的偏见──无论是有意识或无意识的。它会在不知道它如何形成意见的情况下拥有意见,其结果是如此不祥且令人熟悉。TBBednc

纵观人类的历史,偏执者一直在影响──通常是支配──大众的生活,做了太多独裁的决定、毒害整个社会。现在,我们天真地聘请了知名的技术专家来打造无法分不清男生或女生、亚洲大妈或碰撞测试假人、罪犯或圣徒的保全装置。TBBednc

这些「脱窗」机器人的不负责任供货商──包括Amazon、Apple、Facebook还有Google──让它们落入有权搜集个人档案、发出传票、敲开民众家门、拒绝保释、把人们送进监狱,甚至把孩子们踢出国门的机构。TBBednc

有人争论,评估脸部辨识AI的那些研究是有缺陷的,因为样本数太小;但美国国家标准暨技术研究院的研究是大规模的,测试了来自99个开发商者的189种脸部辨识算法,而且该研究发现,就像每一个过去的研究,像是男性在短时间内冒出的胡渣、遮秃发型、肤色以及化妆等等特征,都会让算法混淆。TBBednc

警察与检调人员逐渐意识到,目击者指认是并不可靠的打击犯罪工具,因为充满了仓促、近视、恐惧、偏袒等等人类的缺陷。我们现在则正了解到,希望能以数字化方法纠正这种致命错误而开发的算法,与任何不知所措的目击者一样会有情绪、偏执与恶意──之所以如此,是因为我们忍不住会用自己温顺且难以捉摸的形象来打造机器。TBBednc

 (原文发表于ASPENCORE旗下EDN姐妹媒体EETimes,参考链接: AI: A Little Too Human, But Not Human Enough,编译:Judith Cheng)TBBednc

本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
David Benjamin
EETimes特邀记者。David Benjamin是一位小说家和记者,他大部分时间在巴黎和威斯康星州的麦迪逊度过。他的小说,一部被称为为“黑色喜剧”的《Three's Crowd》刚刚被Event Horizon Press发行。 他以前写的书包括《The Life and Times of the Last Kid Picked》和《SUMO: A Thinking Fan's Guide to Japan's National Sport》。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • Microchip模拟嵌入式SuperFlash技术助力存算一体创新 SuperFlash memBrain存储器解决方案使知存科技片上系统(SoC)能够满足最苛刻的神经处理成本、功耗和性能要求
  • 用TinyML开始设计——开发评估套件 本文中展示的开发套件和评估板得到一些流行的机器学习库和用于 TinyML 工作流程资源的支持,包括用于微控制器的 Google TensorFlow Lite 和 Edge Impulse,因而它们能够成为您第一个项目的理想起点。
  • “中国IC设计成就奖”提名产品简介:高性能GPU芯片及解 沐曦致力于提供国际顶尖的高性能通用GPU芯片及解决方案,结合我国人工智能等领域对GPU芯片的强烈市场需求,对标当前国际领先的GPU芯片产品立项开展技术研发。
  • “中国IC设计成就奖”提名产品简介:全志科技高性能智能 高性能三重异构智能语音应用处理器R329芯片,采用业界先进的半导体工艺,首款集成Arm中国周易语音处理器。集成DSP、NPU、64位CPU及丰富的外设接口,创新突破了低功耗、边缘语音AI超级算力、多重异构通讯、多核调度等关键技术,处于国内领先水平。
  • “中国IC设计成就奖”提名产品简介:追萤3D AI芯片Ai310 埃瓦科技自主研发的追萤 3D AI芯片创新的采用了异构架构 SOC 设计和微内核架构设计,包含 NPU 神经网络加速核、3D 立体匹配加速核、ISP 核等功能性处理核心;其中 NPU 神经网络加速核基于可重构以及片上多级存储和缓存设计,使数据可高效送达加速核心,使该芯片拥有领先的高效智能处理能力、分析以及低功耗管理的能力;其设计架构的资源复用性使硬件计算单位可灵活分配,适应于不同场景的计算需求;在 3D 视觉算法加速方面创新的采用了自研立体匹配算法的 3D 加速微内核架构设计,可有效加速双目立体视觉、结构光等多种 3D 视觉算法。
  • “中国IC设计成就奖”提名产品简介:ada200优势 1.九天睿芯,感存算一体芯片,可以在功耗和性能满足”低功耗AI场景“的同时,成本也大幅度下降。2.采用模数混合的存内计算架构,ADA200相比传统数字芯片,1/3成本,1/10功耗。
  • “中国IC设计成就奖”提名产品简介:面向边缘视觉分析的 面向边缘视觉分析的数据流AI芯片CAISA是鲲云科技自主研发的专为人工智能图像提供高性能计算加速的AI芯片产品,是全球首个量产的数据流AI芯片。
  • “中国IC设计成就奖”提名产品简介:人工智能语音芯片CI 1、人工神经网络硬件引擎架构:具备高计算性能,进行神经网络计算时相当于数十个CPU并行计算的能力;低访问带宽和低功耗,通过并行计算和共用神经元权重参数,大幅降低访问带宽及功耗;高可配置性,支持神经元层数和节点数、神经网络结构的配置。 2、单、双、及麦克风阵列降噪增强技术:支持各种平稳、非平稳环境噪声抑制;可支持线阵、圆阵结构等常用麦阵结构;采用定向波束形成与自适应信号处理技术相结合;拾取方向动态可调;支持单声道、立体声等回声抑制;采用独立研发的空间预测技术,支持强回声情况下回声抑制;与降噪处理技术相结合;自动增益调节、高通、带通滤波等。 3、低功耗和可靠性设计技术:具备低功耗集成电路设计技术,包括基于活动语音检测的低功耗控制技术和时钟门控技术。 4、逻辑设计技术:掌握了语音信号处理IP的设计方法,包括算法硬件化、定点、浮点运算处理等。同时积累了整套SoC设计所需的控制类IP,并成功通过流片验证。
  • “中国IC设计成就奖”提名产品简介:智能安防AI SoC芯片 亿智SV826是2021年推出的高性能的安防AI SoC芯片,主要面向视频编解码AI摄像机产品。
  • “中国IC设计成就奖”提名产品简介:低功耗视觉AIoT SoC 亿智SH516芯片是亿智电子2021年推出的一款低功耗的智能视觉AIoT SoC芯片。
  • “中国IC设计成就奖”提名产品简介:高性能大算力全场景 - AI性能跑分更强,超越Nvidia Orin - 应用当前先进的安全技术和研发流程 - 国内唯一可获得、支持快速量产的整车智能计算平台芯片
  • “中国IC设计成就奖”提名产品简介:高端AIoT芯片RV1126 RK3568是瑞芯微的高端AIoT芯片。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了