广告

你可能不想面对的脸部辨识技术真相…

2019-07-26 Sally Ward-Foxton,EE Times特派记者 阅读:
你可能不想面对的脸部辨识技术真相…
你知道你已经被监控了吗?

英国可说是世界上受监控程度最高的国家之一,从商店、公共汽车到私人住宅,到处设有闭路电视(CCTV)监控摄影机。在过去几年,AI技术例如神经网络之类的技术带动了脸部自动辨识的大规模导入,结合英国现有庞大的CCTV摄影机网络,在安全应用方面被认为具有巨大的成长潜力。YNqednc

然而,隐私问题却令人担忧,特别是从照片或CCTV影片所撷取的脸部辨识资料,因为这是在未经过当事人同意、且当事人不知情的情况下所拍摄,而且无论被拍摄者是否在特定观察名单上,其资料会被任意收集,使得人们被定位、行动被追踪。将人群中每一张脸与个人身份关联起来是很容易的事,接着就能找到与这些个人相关的所有数据。YNqednc

019ednc20190725YNqednc

NEC的脸部辨识技术NeoFace宣传图片。(来源:NEC)YNqednc

执法层面

如果为了提高安全性而必须交换我们的隐私,那么优点必须大于缺点。脸部辨识技术实际上是否能有效地协助逮捕罪犯?YNqednc

英国各地的警察在例如购物中心、体育场馆和繁忙街道等公共场合,进行了实时脸部辨识技术的测试;到目前为止,伦敦大都会警察局(Metropolitan Police)以专用摄影机和NEC的NeoFace算法进行了10项技术测试,量测了每张脸的结构,包括眼睛、鼻子、嘴巴和下巴之间的距离。NEC表示,此算法可以容忍影像质量差的图片,像是压缩过的监控影片,最低能辨识24画素分辨率的影像。YNqednc

尽管NeoFace在美国国家标准与技术研究院(NIST)的脸部辨识性能测试中(Face in Video Evaluation,FIVE)连续四次获奖,实际表现并不尽如人意──伦敦大都会警察局于2016年和2018年之间的8次布署测试中,有96%的脸部辨识比对将无辜民众列入了观察名单。YNqednc

对于这样的测试,最主要的诟病是民众并没有被充分告知,而他们也没有机会「选择退出」。英国国家广播公司(BBC)所拍摄的一个新闻片段显示,北伦敦有一位行人将脸部遮住,并拒绝拿下面罩,但警方还是拍下他的照片并以行为不检的理由处以90英镑罚缓。YNqednc

020ednc20190725YNqednc

英国南韦尔斯的警车配备脸部辨识摄影机,在车侧以英文和韦尔斯语标示「此车搭载脸部辨识设备」,然而伦敦大都会警察局的警车缺少清楚标示。(来源:Liberty)YNqednc

英国南韦尔斯警方(South Wales Police)对该脸部辨识技术执行了更广泛的测试,成果稍微好一点点:只有91%错误比对无辜民众。所有的路人影像无论是否符合比对结果,警方都只会保存31天。但仍有一位民众因为此测试向南韦尔斯警方提告,表示他在外面购物以及进行和平的反武器示威期间被拍照,而自动脸部辨识技术侵犯了他的隐私权、干扰了他的示威权,并违反了数据保护法(此诉讼案判决结果将于今年秋天出炉)。YNqednc

道德疑虑

在6月上旬于伦敦举行的年度AI技术研讨会CogX上,有一场座谈讨论了自动化脸部辨识技术的道德问题。人权组织Liberty总监Martha Spurrier在该座谈会中强调,研究结果显示,安全监控甚至扭曲了非犯罪行为。YNqednc

「这种技术影响了我们所有人,包括我们在公共场合互动的方式,以及我们是否该参加示威抗议活动、是否该去哪里祈祷,还有是否该与在警方有纪录的麻烦人物一起出去;」Spurrier指出,众所周知目前的脸部辨识技术有偏误问题,特别是女性以及有色人种更可能被算法错误辨识,这也是导致大众疑虑的原因。YNqednc

她说:「我们知道执法部门会将特定族群边缘化和妖魔化,而无论此技术本身是否会产生偏误,都会被那些已经存在根深蒂固偏见的人使用。我们已经很遗憾地对于警方的种族歧视问题束手无策,因此我们不应该再让他们使用更具侵略性的工具,以至于让那样的种族歧视更进一步扩大。」YNqednc

公民隐私与自由权益组织「老大哥在看着你」(Big Brother Watch)的法律与政策负责人Griff Ferris表示,大众应该要关注脸部辨识现场测试,像是英国警方正在执行的项目:「这是大规模监控,在公共场所以生物辨识扫描每一张脸孔,比对观察名单…把你的脸当成指纹或DNA。」YNqednc

Ferris还问现场听众有多少人会愿意在进入演讲厅时提供指纹或接受DNA采集(没有人举手);他补充:「但这就是他们如何在公共场所、音乐会或示威游行现场,在你不知情与未经你同意的情况下采集对你做的事。」YNqednc

专有技术

美国脸部辨识方案供货商Trueface执行长Shaun Moore是CogX会议中唯一的脸部辨识技术业界代表;Trueface在2013年开始将此技术应用在智能门铃,现在则提供给银行应用于保全ATM交易,以及提供给旅馆业进行VIP识别,还有执法单位。YNqednc

Moore表示:「美国政府不需要透过脸部辨识技术来监视你,他们会透过社交媒体、通话记录或信用卡账单;所以你需要更全方位(holistically)思考此项技术,不只是专注在监控应用;」虽然他承认在未经同意的人身上测试该技术「不恰当」,但也认为如果我们希望这项技术能够发挥作用,就无法避开这种方式。YNqednc

他说:「这是收集真实信息的唯一方式,如果不收集真实信息,你就无法知道哪里有问题。所以这有点令人陷入两难;」他表示:「但如果不在那些不知道自己被监视的人身上实施该技术,你无法得到需要的信息,以确认该技术是否能够准确地辨识出你正在寻找的人。」YNqednc

Moore自豪地表示,Trueface负责任地使用此项技术,主要是透过仔细地筛选客户并提供「自愿加入」(opt-in)的应用:「我们向客户销售的方案是本地架构,非云端API;而且你也不能直接来找我们买技术,我们会花至少六个月的时间确实了解客户如何使用…主要是『自愿加入』的应用。」YNqednc

根据Moore的说法,Trueface的技术能实时模糊人的脸孔,以保护那些没有「自愿加入」的人;除了执行配对期间,系统在其他时候不会去收集脸部影像,不符合配对的脸部影像数据也会从系统中删除。他还指出,脸部辨识并不意味着需要储存脸部影像,Trueface的系统是以专有技术对脸部影像进行数学表征(mathematical representation),因此如果有人入侵数据库,也无法以逆向工程来描绘出特定的脸孔。YNqednc

021ednc20190725YNqednc
YNqednc

Trueface的脸部辨识和防伪装侦测技术于今年4月在美国拉斯韦加斯举行ISC West国际安全科技展上亮相。 (来源:Trueface)YNqednc

针对脸部辨识技术发展程度是否适合目前的安全监控应用,私人企业界的看法不一。亚马逊(Amazon)将其Rekognition脸部辨识技术给美国的执法部门,尽管先前有领导级AI技术研究人员发出公开信,以该技术具有歧视性呼吁他们停止采用。微软(Microsoft)则表明不希望其脸部辨识技术被执法部门采用,该公司总裁Brad Smith更呼吁以法规管制此技术。YNqednc

法律怎么说?

「这个政策在英国闹得沸沸扬扬,是毋庸置疑的;」英国皇家统计学会(Royal Statistical Society)执行长Hetan Shah表示 : 「情况真的很复杂,这就是为什么我们很难找到答案。」YNqednc

英国法律规范警察收集指纹和DNA的条件,以及这些数据收集后能被使用的范围;但法律未包括任何其他形式的生物辨识数据,例如脸部辨识影像和数据。虽然数据保护法(Data Protection Act)或欧盟的一般数据保护规范(GDPR)可能会概略地规范此类数据,然而除了DNA和指纹以外的生物辨识数据在这两项法律中皆没有明文规定。YNqednc

从英国高等法院在2012年的一项判决中发现,英国内政部( Home Office)违法储存无辜民众的脸部影像数据,但该政府部门只采取了一个变通方法,就是让「未定罪者」(unconvicted persons)可以提出申请删除他们的脸部影像。YNqednc

022ednc20190725YNqednc

在6月上旬于伦敦举行的年度AI技术研讨会CogX的一场座谈中,英国皇家统计学会执行长Hetan Shah探讨关于脸部辨识技术的道德问题。(来源:EE Times)YNqednc

Shah也是一家成立宗旨是研究与AI相关道德问题之Ada Lovelace研究所(Ada Lovelace Institute)副所长;该研究所正展开一项研究,了解大众对于在公共场所使用脸部辨识技术的认知,他提到:「我们与利益关系者讨论的其中一个议题是呼吁暂停使用这项技术,我们认为私营企业的利益与公民的利益同等重要,如果我们的政府部门做出错误决策,就会让我们很快陷入歧路;」他引用了保险业暂停使用基因检测(genetic profiling)技术的先例来说明。YNqednc

「相同地,我们看到基因改良食物技术延后十年实施,因为欧洲民众不会支持它,我们需要先得到社会认同;」他指出:「要做到这一点,最好方法是暂停这项技术,然后在全国各地举行许多论坛进行讨论,从全方位来思考。」YNqednc

最糟的使用案例

在海外,对于脸部辨识技术的使用情况则有很大差异。美国旧金山是最早明确限制使用的城市之一,这个决策是在北加州美国公民自由联盟(American Civil Liberties Union of Northern California)支持发起的基层运动之后发生。而在另一个面,经常被认为最糟糕的案例是发生在中国;虽然中国热衷于展示警察身上配备支持脸部辨识摄影机的太阳眼镜,但中国利用脸部辨识技术追踪新疆维吾尔族穆斯林社群的做法,一直备受国际舆论批评。YNqednc

根据报导,中国在全国大规模布署支持脸部辨识技术的CCTV安防摄影机网络对其人民进行种族分类,例如当一个地区如果出现太多维吾尔族人时会就发出警报。虽然这种程度的社会控制让西方人震惊,然而以今日的科技完全可能实现。YNqednc

虽然以上案例与目前英国街头的情况相去甚远,但没有任何形式的监管,很容易让人联想这项技术会侵犯人们的隐私权,或者更糟糕的是被故意滥用。YNqednc

英国的脸部辨识技术测试展现之低准确度和高错误识别率特别令人忧心,特别是对于非常容易被今日脸部辨识算法错误辨识的女性和有色人种;以往我们常说:「如果你没做什么坏事就没什么好怕;」这句话恐怕再也不适用。YNqednc

(原文发表于ASPENCORE旗下EDN姐妹媒体EETimes,参考链接: Facial Recognition: The Ugly Truth,编译:Patricia Lin;责编:Judith Cheng)YNqednc

 YNqednc

本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 为云端时代建立AI与IoT的相关论述 技术产业正处于两次重大技术革命的边缘——人工智能(AI)负责执行人类无法完成的任务,以及数十亿台设备连接到因特网。除了技术幻想之外,它还提出了更多相关的问题…EDN编辑团队正忙于寻找这些答案,并将以最能满足设计工程师讯息需求的方式呈现。
  • 新冠疫情下的自动驾驶产业 下滑的汽车销售量与营收所导致的车辆研发资金减少,将产生显著的影响;不过影响程度在车厂、汽车零组件供应商、高科技业者与资本投资业者(VC)之间会有所不同...
  • 军事应用推动生物识别技术发展 生物识别技术涵盖不同的解决方案,包括指纹识别、脸部识别、虹膜识别等等,现在都能提供更高的可靠度以及准确度;接下来介绍几项生物识别技术在军事应用上的进展。
  • “地摊经济”火了,工程师如何练好摊? 新的地摊经济还可以结合了5G、人工智能、人脸识别等高科技管理手段和经营方式。
  • 川普再出新招,中国三千余名留学研究生恐遭驱逐 纽约时报引述知情美国官员报导,川普政府计划取消与中国人民解放军所属大学有直接关系的数千名美国境内中国研究生和研究人员的签证。
  • 13所中国高校被美国列入实体清单,为何没有清华北大? 继华为被列入之后,美国表示将在“实体清单”中增加33家中国企业和机构,其中包含了13所中国的高校。但为何中国最著名的两所大学,北京大学和清华大学并不在这份名单之内。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了