广告

有点太像人类...又不够有人性的AI

2020-01-09 13:01:22 David Benjamin 阅读:
因为AI是如此被动吸收被馈入的数据,因此只能反映出存在于人类开发者心中的偏见──无论是有意识或无意识的…

目前使用于脸部辨识的人工智能(AI)算法似乎有着维多利亚时代优生学庸医的科学严谨度与社会敏感性,不过这种评判对于那些从1890年代活跃到1930年代的优生学庸医──他们通常最擅长的就是输卵管结扎(tying tubes)或动脑白质切除术(lobotomies)──大军来说并不公平,因为他们是被根深蒂固的种族主义偏见所驱使。hTHednc

美国国家标准暨技术研究院(The National Institute of Standards and Technology)最近完成了一项大规模调查,发现目前最先进的脸部辨识系统对于辨识非裔美国人与亚洲人脸孔的错误率,是辨识白种人脸孔的10到100倍。一篇《纽约时报》(New York Times)的报导指出:「这种技术在女性脸孔辨识上的困难度也高于男性脸孔;」而且事实证明,该类系统对年长民众特别有敌意,辨识老年人的错误率是辨识中年人的10倍以上。hTHednc

稍早之前美国麻省理工学院(MIT)的一项研究发现,亚马逊(Amazon)开发的脸部辨识软件将较深肤色女性错误辨识为男性的比例是31%,甚至认为美国前第一夫人米歇尔˙欧巴马(Michelle Obama)是男人。(而从那时候起,Amazon还有Apple、Facebook与Google,都拒绝让任何人测试它们的脸部辨识技术。)hTHednc

不同于古时候的优生学者或是颅相学者(phrenologists),脸部辨识算法是没有先入为主观念或偏执的种族主义者;你或者能将它们与德国纳粹时代集中营的守卫相提并论──他们在成为战犯受审时曾提出,他们并非受种族主义驱使,他们只是简单、忠实、无意识地执行命令,他们没有别的选择。hTHednc

因为那些守卫说谎,所以这样的模拟也不对。算法不会说谎,也不会思考,你不能与之对话,它们也没有选择;在这一点上,算法还不如一只狗。我曾与狗狗有过对话──大部份是单向的,但很奇妙地颇具意义──且清楚表达了我的想法;而狗狗也是有意见的,牠们喜欢某些人、不喜欢某些人,牠们对于那些偏好的理由通常很明显。hTHednc

也许有一天算法、机器与机器人能追上一只聪明的狗狗,也会形成自己的观点;但如同科幻小说作家C. Clarke与Philip K. Dick等先知曾暗示过的,这可能并非值得庆幸的突破。你可能记得,在根据Dick的小说《仿生人会梦见电子羊吗?》(Do Androids Dream of Electric Sheep)改编之电影《银翼杀手》(Blade Runner)中,演男主角的哈里逊˙福特(Harrison Ford)试图说服一对固执己见的人造人Roy与Pris应该乐意接受自我毁灭,但它们还是要杀掉他。hTHednc

幸好我们现在的科技还没办法打造出像是科幻小说/电影里那些固执不通的AI;我所想的这些更适合拿来模拟的,或许是1983年的老电影《战争游戏》(War Games)中的WOPR电子大脑Joshua。Joshua拥有能在1分钟左右的时间之内模拟出百万颗氢弹爆炸场景的运算力与速度,但是不受支配,因为有充分的理由与证据指出全球核战的观念是无益的──而且基本上是邪恶的。Joshua是在处理了好几个YB (yottabytes)的数据以及几乎炸毁所有北美防空司令部(NORAD)的保险丝之后,才得出如此纯粹务实的结论。hTHednc

需要的是数据而非说服力

Joshua决定不毁灭世界,是被数据而非说服力所说服。但反过来说,有很多聪明的人类无论提供他多么大量的数据,都很难被说服。今日有些狂热份子仍固执地相信,核子战争能赢得胜利,而数十亿人类的生命都是为了如此甜美胜利可忍受付出的代价。hTHednc

在可见的算法演进中,这种顽固而彻底的人类观点是无法实现的;当它成为可能,是我们并不想要的。而或许实现核子战大屠杀要比脸部辨识大屠杀来得容易?hTHednc

人脸可说千变万化,会随着人生阶段持续改变,比战争的面貌更多样化,没有现存算法能掌握其所有细微差别、表情与多变性,似乎也没有魔法公式很快出现。在此同时,脸部辨识技术只会跟创造它的人类一样客观与精准,这意味着今日的脸部辨识AI会像是3K党那样的种族主义者,也会像新生儿那般无种族偏见,但我们不知道它何时会是前者、何时是后者。hTHednc

因为AI是如此费解的中立、如此被动吸收所有馈入的数据,它不得不反映所有人类开发者内心与思想上的偏见──无论是有意识或无意识的。它会在不知道它如何形成意见的情况下拥有意见,其结果是如此不祥且令人熟悉。hTHednc

纵观人类的历史,偏执者一直在影响──通常是支配──大众的生活,做了太多独裁的决定、毒害整个社会。现在,我们天真地聘请了知名的技术专家来打造无法分不清男生或女生、亚洲大妈或碰撞测试假人、罪犯或圣徒的保全装置。hTHednc

这些「脱窗」机器人的不负责任供货商──包括Amazon、Apple、Facebook还有Google──让它们落入有权搜集个人档案、发出传票、敲开民众家门、拒绝保释、把人们送进监狱,甚至把孩子们踢出国门的机构。hTHednc

有人争论,评估脸部辨识AI的那些研究是有缺陷的,因为样本数太小;但美国国家标准暨技术研究院的研究是大规模的,测试了来自99个开发商者的189种脸部辨识算法,而且该研究发现,就像每一个过去的研究,像是男性在短时间内冒出的胡渣、遮秃发型、肤色以及化妆等等特征,都会让算法混淆。hTHednc

警察与检调人员逐渐意识到,目击者指认是并不可靠的打击犯罪工具,因为充满了仓促、近视、恐惧、偏袒等等人类的缺陷。我们现在则正了解到,希望能以数字化方法纠正这种致命错误而开发的算法,与任何不知所措的目击者一样会有情绪、偏执与恶意──之所以如此,是因为我们忍不住会用自己温顺且难以捉摸的形象来打造机器。hTHednc

 (原文发表于ASPENCORE旗下EDN姐妹媒体EETimes,参考链接: AI: A Little Too Human, But Not Human Enough,编译:Judith Cheng)hTHednc

本文为电子技术设计原创文章,未经授权禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
David Benjamin
EETimes特邀记者。David Benjamin是一位小说家和记者,他大部分时间在巴黎和威斯康星州的麦迪逊度过。他的小说,一部被称为为“黑色喜剧”的《Three's Crowd》刚刚被Event Horizon Press发行。 他以前写的书包括《The Life and Times of the Last Kid Picked》和《SUMO: A Thinking Fan's Guide to Japan's National Sport》。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 因眼睛小车主被辅助驾驶误判“开车睡觉”,小鹏、蔚来回 昨日,汽车博主@常岩CY 发博称自己突然上了热搜,原来就是因自己眼睛小被小鹏汽车自动驾驶误判“开车睡觉”,不住的发出提醒。此外,@常岩CY 称在多款车型上都收到此困扰。无论是红外还是摄像头,只要开始检测眼睛,就会判定过度疲劳。小鹏P7会提示他睡觉,蔚来ET7一开车就认为其疲劳和走神,岚图FREE会在冬天为了让其“别困”而打开冷风……
  • “智能家居”未来将可通过呼吸控制操作 凯斯西储大学的研究人员创造了一个简单的原型设备,使用户能够通过改变他们的呼吸模式来控制“智能家居”。这种自供电装置可放入鼻孔,并有可能提高行动不便或无法清晰说话的人的生活质量。如果个人呼吸困难,它也可以编程为医务人员提供自动警报。
  • 一个AI程序就可将手机电池增加30% 一项尖端的人工智能开发可以将智能手机的电池寿命延长 30%。这项应用则是利用 AI 分析正在使用的应用程序的 FPS 变化,并试图找到 CPU 和 GPU 处理器的最佳运行频率以适应变化,同时消耗设备中最少的功率和温度增益……
  • AI视觉芯片如何赋能两轮车出行? 6月29日,在由全球领先的专业电子机构媒体AspenCore和深圳市新一代信息通信产业集群联合主办的“2022国际AIoT生态发展大会-智慧两轮车分论坛”中,嘉楠科技副总裁汤炜伟以《勘智AI视觉芯,赋能智眼两轮行》为主题,向大家分享了嘉楠地芯片设计创新历程,及其RISCV架构AI芯片技术路线图,并以具体案例展示AI视觉芯片如何赋能两轮车出行。
  • 碎片化、成本高是难题,AIoT行业需要哪些改变? 作为AIoT的行业基石,物联网市场到2022年预计将达到 144 亿活跃连接。随着供应限制的缓解和增长的进一步加速,IoT Analytics 最新预测指出,到2025年全球将有大约 270 亿台联网物联网设备。中国物联网链接到2025年也将达到80亿。随着整个AIoT和IoT市场的快速成长与变化,我们将面临哪些风险和挑战?
  • 英特尔张宇:边缘AI有三个阶段,我们还处在山脚 在AspenCore举办的“2022国际AIoT生态发展大会”上,英特尔公司高级首席工程师、物联网事业部中国区首席技术官张宇博士通过视频方式分享了“边缘AI技术发展趋势与展望”主题演讲。
  • 世界上尺寸最大的芯片Wafer Scale Engine-2打破了在单 Cerebras公司售价数百万美元的“全球最大AI芯片”Wafer Scale Engine-2又有新消息,在基于单个Wafer Scale Engine-2芯片的CS-2系统上训练了世界上最大的拥有200亿参数的NLP(自然语言处理)人工智能模型。
  • 婴儿或可帮助解锁下一代人工智能 都柏林圣三一学院的神经科学家及其同事刚刚发布了改进人工智能的新指导原则,他们表示,婴儿可以帮助解锁下一代人工智能(AI)。
  • 日本要利用机器学习实现半导体研究自动化 新型薄半导体材料的开发需要对大量反射高能电子衍射(RHEED)数据进行定量分析,既耗时又需要专业知识。为了解决这个问题,东京理科大学的科学家们确定了可以帮助自动化 RHEED 数据分析的机器学习技术。他们的发现可以极大地加速半导体研究,并为更快、更节能的电子设备铺平道路。
  • 纯视觉自动驾驶更安全?美国交通部发布数据打脸特斯拉 特斯拉的纯视觉自动驾驶到底效果如何?真的如马斯克所说的:“通过摄像头和计算机网络让自动驾驶比人类驾驶更安全”吗?近日美国国家公路交通安全管理局发布了一份新的数据,颇有打脸特斯拉的意味。
  • 每秒可对近20亿张图像进行处理分类的“超级芯片” 在测试过程中,该团队制作了一个尺寸为 9.3 mm 2(0.01 in 2)的芯片,并将其用于对一系列类似于字母的手写字符进行分类。在对相关数据集进行训练后,该芯片能够对包含两种字符集的图像进行分类,准确率达到 93.8%,对四种类型的图像进行分类准确率为 89.8%。
  • 人工智能的创新发明,专利权属于谁? 随着人工智能技术的发展进步,近几年出现了许多涉及人工智能的发明,如2020 年,机器学习算法帮助研究人员开发了一种对多种病原体有效的抗生素(参见Nature),此外,人工智能 (AI) 也被用于帮助疫苗开发、药物设计、材料发现、空间技术和船舶设计。那么这些由人工智能发明的技术,专利到底归属于谁呢?
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了