广告

博士生用无人机和投影仪成功“欺骗” Autopilot,他是如何做到的?

2020-02-13 阅读:
博士生用无人机和投影仪成功“欺骗” Autopilot,他是如何做到的?
以色列古里昂大学博士生 Ben Nassi 在研究时成功完成了对 Mobileye 630 Pro 驾驶员辅助系统的一系列欺骗攻击。当时,他只是用到了简易的无人机和投影仪而已。

半年前,以色列古里昂大学博士生 Ben Nassi 在研究时成功完成了对 Mobileye 630 Pro 驾驶员辅助系统的一系列欺骗攻击。当时,他只是用到了简易的无人机和投影仪而已。n5oednc

n5oednc

投影仪投出的车辆图像也会被 Autopilot 识别n5oednc

“欺骗”了 Mobileye 的驾驶员辅助系统后,Nassi 又在其他类似的系统上做了实验,结果特斯拉 Model X 也没能逃过这套简易装置的欺骗。n5oednc

事实上,Nassi 用到的技术原理并不复杂,他能成功完成欺骗主要利用了人类和 AI 在图像识别上的差异。大多数情况下,Nassi 用投影仪投出的影像骗不了人但却能把 Autopilot 耍的团团转。实际上,某些欺骗攻击几乎是隐秘的,它们依赖于感知上的差异,在成功“戏耍”特斯拉的同时,也让人类驾驶员无从察觉。n5oednc

Nassi 出于善意的实验也是为了提醒厂商驾驶员辅助系统的安全漏洞所在,在他看来这应该被称为“ADAS 的幻象”。从实验结果来看,我们也确实应该在半自动驾驶系统中添加一些防御性设计了。n5oednc

n5oednc

投影在树上的限速标识n5oednc

在“欺骗”Model X 时,Nassi 和他的团队连无人机都没用到,一个助手手持投影仪就创造出了“ADAS 的幻象”。投影仪在地上,路边的树上和广告牌上投出了车道线和限速标志,结果那辆 Model X 还真的识别到了这些道路标识,乖乖跟着走了。n5oednc

从安全的角度来看,攻击者根本不用出现在现场,更是留不下任何证据。此外,攻击者也不用自学成技术专家,十几岁的小孩子就能搞定。当然,装备上也无需那么昂贵或花哨,Nassi 和他的团队只是用了一些 200-300 美元的普通投影仪,其中有一台分辨率才 854x480,亮度也仅有 100 流明。n5oednc

Nassi 的实验也从反面证明,Autopilot 识别起道路标识来还是挺“火眼金睛”的,毕竟有时投影只出现八分之一秒,人类驾驶员很难注意到,但却被 AI 图像识别系统察觉到了。n5oednc

n5oednc

不过,我们还是要再次强调,Autopilot 只是一套半自动驾驶系统,因此人类驾驶员还是要对行车安全负责。如果驾驶员对这种恶作剧似的交通标识不管不问,没准你的车还真会被它带进沟里。n5oednc

可惜,不是所有人都有这样的安全意识。2019 年的一项调查就显示,有接近一般的驾驶员过于相信 Autopilot,其中甚至有 6% 的受访者认为自己完全可以在车上睡大觉。n5oednc

未来,车辆上的传感器肯定会越来越多,有人在驾驶席监督还好,如果真的全自动驾驶了,谁来保证车辆不被投影仪恶意欺骗呢?n5oednc

(本文授权自雷锋网,作者:大壮旅;责编:Demi Xia)n5oednc

本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 如何解决数据中心能耗高的难题? 数据中心消耗的电力巨大,并随着管理、处理和存储的数据量以极高的速度持续增长,尤其是随着5G的出现,电源拓扑、能耗、能效以及最终使数据中心持续在线的成本备受极大密切的关注。
  • Tesla使出浑身解数标榜技术实力 Musk用一系列让人眼花撩乱的题目,说明Tesla为了实现自动驾驶车辆而使出的十八般武艺,只为了提醒产业界他们不是一家普通的车厂。
  • 加速AI IC设计产业化,应用落地关键在软件 在今天由ASPENCORE旗下《电子工程专辑》、《电子技术设计》、《国际电子商情》三大媒体联合举办的“2019年中国IC领袖峰会”上,Imagination中国资深市场拓展经理郑魁给我们带来了题为“加速AI IC设计产业化, 引领边缘智能行业发展”的主题演讲,分享了AI产业化及边缘智能化过程中遇到的一些挑战。
  • 教你如何测量无人机、机器人与自驾车的动态姿态 本文介绍以IMU估算在动态条件下进行翻滚和俯仰姿态的基本物理和数学…
  • 特斯拉自燃的幕后黑手——锂电池热失控 6月17日,洛杉矶又有一辆特斯拉Model S在路面自燃,车底的锂离子电池组熊熊燃烧。这已经是特斯拉在进入2018年以来的第三场起火事故了。电动汽车自燃的直接原因,就是锂电池的热失控,我将它称为电动汽车安全的“幕后黑手”。
  • 协同芯片:AI的明智选择? 现在台式机CPU和移动SoC大多都采用多核芯片,因为它们灵活的可扩展架构使其能够按需提供不同的性能,AI“协同芯片”采用类似的方法,它们不仅仅只被设计成一个,而是多个计算GPU和神经网络加速器(NNA)来为特定的应用提供足够的性能,同时确保对硅片尺寸进行优化,将芯片的成本降至最低。这些处理器会紧挨着主应用处理器(SoC)作为“协同芯片”,承载主应用处理器上的NNA内核需要处理的AI推理任务。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了