广告

你可能不想面对的脸部辨识技术真相…

2019-07-26 11:39:50 Sally Ward-Foxton,EE Times特派记者 阅读:
你知道你已经被监控了吗?

英国可说是世界上受监控程度最高的国家之一,从商店、公共汽车到私人住宅,到处设有闭路电视(CCTV)监控摄影机。在过去几年,AI技术例如神经网络之类的技术带动了脸部自动辨识的大规模导入,结合英国现有庞大的CCTV摄影机网络,在安全应用方面被认为具有巨大的成长潜力。oayednc

然而,隐私问题却令人担忧,特别是从照片或CCTV影片所撷取的脸部辨识资料,因为这是在未经过当事人同意、且当事人不知情的情况下所拍摄,而且无论被拍摄者是否在特定观察名单上,其资料会被任意收集,使得人们被定位、行动被追踪。将人群中每一张脸与个人身份关联起来是很容易的事,接着就能找到与这些个人相关的所有数据。oayednc

019ednc20190725oayednc

NEC的脸部辨识技术NeoFace宣传图片。(来源:NEC)oayednc

执法层面

如果为了提高安全性而必须交换我们的隐私,那么优点必须大于缺点。脸部辨识技术实际上是否能有效地协助逮捕罪犯?oayednc

英国各地的警察在例如购物中心、体育场馆和繁忙街道等公共场合,进行了实时脸部辨识技术的测试;到目前为止,伦敦大都会警察局(Metropolitan Police)以专用摄影机和NEC的NeoFace算法进行了10项技术测试,量测了每张脸的结构,包括眼睛、鼻子、嘴巴和下巴之间的距离。NEC表示,此算法可以容忍影像质量差的图片,像是压缩过的监控影片,最低能辨识24画素分辨率的影像。oayednc

尽管NeoFace在美国国家标准与技术研究院(NIST)的脸部辨识性能测试中(Face in Video Evaluation,FIVE)连续四次获奖,实际表现并不尽如人意──伦敦大都会警察局于2016年和2018年之间的8次布署测试中,有96%的脸部辨识比对将无辜民众列入了观察名单。oayednc

对于这样的测试,最主要的诟病是民众并没有被充分告知,而他们也没有机会「选择退出」。英国国家广播公司(BBC)所拍摄的一个新闻片段显示,北伦敦有一位行人将脸部遮住,并拒绝拿下面罩,但警方还是拍下他的照片并以行为不检的理由处以90英镑罚缓。oayednc

020ednc20190725oayednc

英国南韦尔斯的警车配备脸部辨识摄影机,在车侧以英文和韦尔斯语标示「此车搭载脸部辨识设备」,然而伦敦大都会警察局的警车缺少清楚标示。(来源:Liberty)oayednc

英国南韦尔斯警方(South Wales Police)对该脸部辨识技术执行了更广泛的测试,成果稍微好一点点:只有91%错误比对无辜民众。所有的路人影像无论是否符合比对结果,警方都只会保存31天。但仍有一位民众因为此测试向南韦尔斯警方提告,表示他在外面购物以及进行和平的反武器示威期间被拍照,而自动脸部辨识技术侵犯了他的隐私权、干扰了他的示威权,并违反了数据保护法(此诉讼案判决结果将于今年秋天出炉)。oayednc

道德疑虑

在6月上旬于伦敦举行的年度AI技术研讨会CogX上,有一场座谈讨论了自动化脸部辨识技术的道德问题。人权组织Liberty总监Martha Spurrier在该座谈会中强调,研究结果显示,安全监控甚至扭曲了非犯罪行为。oayednc

「这种技术影响了我们所有人,包括我们在公共场合互动的方式,以及我们是否该参加示威抗议活动、是否该去哪里祈祷,还有是否该与在警方有纪录的麻烦人物一起出去;」Spurrier指出,众所周知目前的脸部辨识技术有偏误问题,特别是女性以及有色人种更可能被算法错误辨识,这也是导致大众疑虑的原因。oayednc

她说:「我们知道执法部门会将特定族群边缘化和妖魔化,而无论此技术本身是否会产生偏误,都会被那些已经存在根深蒂固偏见的人使用。我们已经很遗憾地对于警方的种族歧视问题束手无策,因此我们不应该再让他们使用更具侵略性的工具,以至于让那样的种族歧视更进一步扩大。」oayednc

公民隐私与自由权益组织「老大哥在看着你」(Big Brother Watch)的法律与政策负责人Griff Ferris表示,大众应该要关注脸部辨识现场测试,像是英国警方正在执行的项目:「这是大规模监控,在公共场所以生物辨识扫描每一张脸孔,比对观察名单…把你的脸当成指纹或DNA。」oayednc

Ferris还问现场听众有多少人会愿意在进入演讲厅时提供指纹或接受DNA采集(没有人举手);他补充:「但这就是他们如何在公共场所、音乐会或示威游行现场,在你不知情与未经你同意的情况下采集对你做的事。」oayednc

专有技术

美国脸部辨识方案供货商Trueface执行长Shaun Moore是CogX会议中唯一的脸部辨识技术业界代表;Trueface在2013年开始将此技术应用在智能门铃,现在则提供给银行应用于保全ATM交易,以及提供给旅馆业进行VIP识别,还有执法单位。oayednc

Moore表示:「美国政府不需要透过脸部辨识技术来监视你,他们会透过社交媒体、通话记录或信用卡账单;所以你需要更全方位(holistically)思考此项技术,不只是专注在监控应用;」虽然他承认在未经同意的人身上测试该技术「不恰当」,但也认为如果我们希望这项技术能够发挥作用,就无法避开这种方式。oayednc

他说:「这是收集真实信息的唯一方式,如果不收集真实信息,你就无法知道哪里有问题。所以这有点令人陷入两难;」他表示:「但如果不在那些不知道自己被监视的人身上实施该技术,你无法得到需要的信息,以确认该技术是否能够准确地辨识出你正在寻找的人。」oayednc

Moore自豪地表示,Trueface负责任地使用此项技术,主要是透过仔细地筛选客户并提供「自愿加入」(opt-in)的应用:「我们向客户销售的方案是本地架构,非云端API;而且你也不能直接来找我们买技术,我们会花至少六个月的时间确实了解客户如何使用…主要是『自愿加入』的应用。」oayednc

根据Moore的说法,Trueface的技术能实时模糊人的脸孔,以保护那些没有「自愿加入」的人;除了执行配对期间,系统在其他时候不会去收集脸部影像,不符合配对的脸部影像数据也会从系统中删除。他还指出,脸部辨识并不意味着需要储存脸部影像,Trueface的系统是以专有技术对脸部影像进行数学表征(mathematical representation),因此如果有人入侵数据库,也无法以逆向工程来描绘出特定的脸孔。oayednc

021ednc20190725oayednc
oayednc

Trueface的脸部辨识和防伪装侦测技术于今年4月在美国拉斯韦加斯举行ISC West国际安全科技展上亮相。 (来源:Trueface)oayednc

针对脸部辨识技术发展程度是否适合目前的安全监控应用,私人企业界的看法不一。亚马逊(Amazon)将其Rekognition脸部辨识技术给美国的执法部门,尽管先前有领导级AI技术研究人员发出公开信,以该技术具有歧视性呼吁他们停止采用。微软(Microsoft)则表明不希望其脸部辨识技术被执法部门采用,该公司总裁Brad Smith更呼吁以法规管制此技术。oayednc

法律怎么说?

「这个政策在英国闹得沸沸扬扬,是毋庸置疑的;」英国皇家统计学会(Royal Statistical Society)执行长Hetan Shah表示 : 「情况真的很复杂,这就是为什么我们很难找到答案。」oayednc

英国法律规范警察收集指纹和DNA的条件,以及这些数据收集后能被使用的范围;但法律未包括任何其他形式的生物辨识数据,例如脸部辨识影像和数据。虽然数据保护法(Data Protection Act)或欧盟的一般数据保护规范(GDPR)可能会概略地规范此类数据,然而除了DNA和指纹以外的生物辨识数据在这两项法律中皆没有明文规定。oayednc

从英国高等法院在2012年的一项判决中发现,英国内政部( Home Office)违法储存无辜民众的脸部影像数据,但该政府部门只采取了一个变通方法,就是让「未定罪者」(unconvicted persons)可以提出申请删除他们的脸部影像。oayednc

022ednc20190725oayednc

在6月上旬于伦敦举行的年度AI技术研讨会CogX的一场座谈中,英国皇家统计学会执行长Hetan Shah探讨关于脸部辨识技术的道德问题。(来源:EE Times)oayednc

Shah也是一家成立宗旨是研究与AI相关道德问题之Ada Lovelace研究所(Ada Lovelace Institute)副所长;该研究所正展开一项研究,了解大众对于在公共场所使用脸部辨识技术的认知,他提到:「我们与利益关系者讨论的其中一个议题是呼吁暂停使用这项技术,我们认为私营企业的利益与公民的利益同等重要,如果我们的政府部门做出错误决策,就会让我们很快陷入歧路;」他引用了保险业暂停使用基因检测(genetic profiling)技术的先例来说明。oayednc

「相同地,我们看到基因改良食物技术延后十年实施,因为欧洲民众不会支持它,我们需要先得到社会认同;」他指出:「要做到这一点,最好方法是暂停这项技术,然后在全国各地举行许多论坛进行讨论,从全方位来思考。」oayednc

最糟的使用案例

在海外,对于脸部辨识技术的使用情况则有很大差异。美国旧金山是最早明确限制使用的城市之一,这个决策是在北加州美国公民自由联盟(American Civil Liberties Union of Northern California)支持发起的基层运动之后发生。而在另一个面,经常被认为最糟糕的案例是发生在中国;虽然中国热衷于展示警察身上配备支持脸部辨识摄影机的太阳眼镜,但中国利用脸部辨识技术追踪新疆维吾尔族穆斯林社群的做法,一直备受国际舆论批评。oayednc

根据报导,中国在全国大规模布署支持脸部辨识技术的CCTV安防摄影机网络对其人民进行种族分类,例如当一个地区如果出现太多维吾尔族人时会就发出警报。虽然这种程度的社会控制让西方人震惊,然而以今日的科技完全可能实现。oayednc

虽然以上案例与目前英国街头的情况相去甚远,但没有任何形式的监管,很容易让人联想这项技术会侵犯人们的隐私权,或者更糟糕的是被故意滥用。oayednc

英国的脸部辨识技术测试展现之低准确度和高错误识别率特别令人忧心,特别是对于非常容易被今日脸部辨识算法错误辨识的女性和有色人种;以往我们常说:「如果你没做什么坏事就没什么好怕;」这句话恐怕再也不适用。oayednc

(原文发表于ASPENCORE旗下EDN姐妹媒体EETimes,参考链接: Facial Recognition: The Ugly Truth,编译:Patricia Lin;责编:Judith Cheng)oayednc

 oayednc

本文为电子技术设计原创文章,未经授权禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 呵呵,中国用脸部辨识技术抓获逃犯(基本上是汉族的)的众多事例就被选择性无视,却一本正经把监控穆斯林集聚(本人觉得有必要)的传说当真事。
  • 文章最后,根据什么报道?摄像头监控少数民族?真的假的?
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 因眼睛小车主被辅助驾驶误判“开车睡觉”,小鹏、蔚来回 昨日,汽车博主@常岩CY 发博称自己突然上了热搜,原来就是因自己眼睛小被小鹏汽车自动驾驶误判“开车睡觉”,不住的发出提醒。此外,@常岩CY 称在多款车型上都收到此困扰。无论是红外还是摄像头,只要开始检测眼睛,就会判定过度疲劳。小鹏P7会提示他睡觉,蔚来ET7一开车就认为其疲劳和走神,岚图FREE会在冬天为了让其“别困”而打开冷风……
  • 国际象棋机器人Chessrobot夹断对手手指,意外还是设计缺 据悉,在7月19日的莫斯科国际象棋公开赛期间,一位7岁小男孩疑似因提前走子犯规手,意外被“对手”国际象棋机器人Chessrobot夹住手指,造成指骨骨折,该事件登上了热搜榜。该男孩是莫斯科9岁以下最强的30位棋手之一。
  • “智能家居”未来将可通过呼吸控制操作 凯斯西储大学的研究人员创造了一个简单的原型设备,使用户能够通过改变他们的呼吸模式来控制“智能家居”。这种自供电装置可放入鼻孔,并有可能提高行动不便或无法清晰说话的人的生活质量。如果个人呼吸困难,它也可以编程为医务人员提供自动警报。
  • 核酸采样机器人将取代“大白”?用了哪些技术保证采样准 取棉签、核酸采样、储存核酸采样管、设备消杀……动作精准流畅,今后给你核酸采样的可能不再是“大白”,而是机器人。EDN小编就带大家来看看,目前已被使用的核酸采样机器人有哪些?
  • 一个AI程序就可将手机电池增加30% 一项尖端的人工智能开发可以将智能手机的电池寿命延长 30%。这项应用则是利用 AI 分析正在使用的应用程序的 FPS 变化,并试图找到 CPU 和 GPU 处理器的最佳运行频率以适应变化,同时消耗设备中最少的功率和温度增益……
  • AI视觉芯片如何赋能两轮车出行? 6月29日,在由全球领先的专业电子机构媒体AspenCore和深圳市新一代信息通信产业集群联合主办的“2022国际AIoT生态发展大会-智慧两轮车分论坛”中,嘉楠科技副总裁汤炜伟以《勘智AI视觉芯,赋能智眼两轮行》为主题,向大家分享了嘉楠地芯片设计创新历程,及其RISCV架构AI芯片技术路线图,并以具体案例展示AI视觉芯片如何赋能两轮车出行。
  • 碎片化、成本高是难题,AIoT行业需要哪些改变? 作为AIoT的行业基石,物联网市场到2022年预计将达到 144 亿活跃连接。随着供应限制的缓解和增长的进一步加速,IoT Analytics 最新预测指出,到2025年全球将有大约 270 亿台联网物联网设备。中国物联网链接到2025年也将达到80亿。随着整个AIoT和IoT市场的快速成长与变化,我们将面临哪些风险和挑战?
  • 英特尔张宇:边缘AI有三个阶段,我们还处在山脚 在AspenCore举办的“2022国际AIoT生态发展大会”上,英特尔公司高级首席工程师、物联网事业部中国区首席技术官张宇博士通过视频方式分享了“边缘AI技术发展趋势与展望”主题演讲。
  • 世界上尺寸最大的芯片Wafer Scale Engine-2打破了在单 Cerebras公司售价数百万美元的“全球最大AI芯片”Wafer Scale Engine-2又有新消息,在基于单个Wafer Scale Engine-2芯片的CS-2系统上训练了世界上最大的拥有200亿参数的NLP(自然语言处理)人工智能模型。
  • 婴儿或可帮助解锁下一代人工智能 都柏林圣三一学院的神经科学家及其同事刚刚发布了改进人工智能的新指导原则,他们表示,婴儿可以帮助解锁下一代人工智能(AI)。
  • 日本要利用机器学习实现半导体研究自动化 新型薄半导体材料的开发需要对大量反射高能电子衍射(RHEED)数据进行定量分析,既耗时又需要专业知识。为了解决这个问题,东京理科大学的科学家们确定了可以帮助自动化 RHEED 数据分析的机器学习技术。他们的发现可以极大地加速半导体研究,并为更快、更节能的电子设备铺平道路。
  • 纯视觉自动驾驶更安全?美国交通部发布数据打脸特斯拉 特斯拉的纯视觉自动驾驶到底效果如何?真的如马斯克所说的:“通过摄像头和计算机网络让自动驾驶比人类驾驶更安全”吗?近日美国国家公路交通安全管理局发布了一份新的数据,颇有打脸特斯拉的意味。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了