广告

博士生用无人机和投影仪成功“欺骗” Autopilot,他是如何做到的?

2020-02-13 阅读:
以色列古里昂大学博士生 Ben Nassi 在研究时成功完成了对 Mobileye 630 Pro 驾驶员辅助系统的一系列欺骗攻击。当时,他只是用到了简易的无人机和投影仪而已。

半年前,以色列古里昂大学博士生 Ben Nassi 在研究时成功完成了对 Mobileye 630 Pro 驾驶员辅助系统的一系列欺骗攻击。当时,他只是用到了简易的无人机和投影仪而已。u7Qednc

u7Qednc

投影仪投出的车辆图像也会被 Autopilot 识别u7Qednc

“欺骗”了 Mobileye 的驾驶员辅助系统后,Nassi 又在其他类似的系统上做了实验,结果特斯拉 Model X 也没能逃过这套简易装置的欺骗。u7Qednc

事实上,Nassi 用到的技术原理并不复杂,他能成功完成欺骗主要利用了人类和 AI 在图像识别上的差异。大多数情况下,Nassi 用投影仪投出的影像骗不了人但却能把 Autopilot 耍的团团转。实际上,某些欺骗攻击几乎是隐秘的,它们依赖于感知上的差异,在成功“戏耍”特斯拉的同时,也让人类驾驶员无从察觉。u7Qednc

Nassi 出于善意的实验也是为了提醒厂商驾驶员辅助系统的安全漏洞所在,在他看来这应该被称为“ADAS 的幻象”。从实验结果来看,我们也确实应该在半自动驾驶系统中添加一些防御性设计了。u7Qednc

u7Qednc

投影在树上的限速标识u7Qednc

在“欺骗”Model X 时,Nassi 和他的团队连无人机都没用到,一个助手手持投影仪就创造出了“ADAS 的幻象”。投影仪在地上,路边的树上和广告牌上投出了车道线和限速标志,结果那辆 Model X 还真的识别到了这些道路标识,乖乖跟着走了。u7Qednc

从安全的角度来看,攻击者根本不用出现在现场,更是留不下任何证据。此外,攻击者也不用自学成技术专家,十几岁的小孩子就能搞定。当然,装备上也无需那么昂贵或花哨,Nassi 和他的团队只是用了一些 200-300 美元的普通投影仪,其中有一台分辨率才 854x480,亮度也仅有 100 流明。u7Qednc

Nassi 的实验也从反面证明,Autopilot 识别起道路标识来还是挺“火眼金睛”的,毕竟有时投影只出现八分之一秒,人类驾驶员很难注意到,但却被 AI 图像识别系统察觉到了。u7Qednc

u7Qednc

不过,我们还是要再次强调,Autopilot 只是一套半自动驾驶系统,因此人类驾驶员还是要对行车安全负责。如果驾驶员对这种恶作剧似的交通标识不管不问,没准你的车还真会被它带进沟里。u7Qednc

可惜,不是所有人都有这样的安全意识。2019 年的一项调查就显示,有接近一般的驾驶员过于相信 Autopilot,其中甚至有 6% 的受访者认为自己完全可以在车上睡大觉。u7Qednc

未来,车辆上的传感器肯定会越来越多,有人在驾驶席监督还好,如果真的全自动驾驶了,谁来保证车辆不被投影仪恶意欺骗呢?u7Qednc

(本文授权自雷锋网,作者:大壮旅;责编:Demi Xia)u7Qednc

  • 请问我立一个假的标志牌, 难道人类就不会被骗?!

本文为EDN电子技术设计 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • MiR自主移动机器人发布全新牵引产品MiR250 Hook “小身材、大能量”推动产线物流自动化
  • 用于先进视频处理解决方案的FPGA产品与技术 本白皮书将介绍基于FPGA的解决方案在以下三种应用中的优势:视频流;使用视频编辑软件来创作视频内容;人工智能(AI)和深度学习–图像识别是该应用的主要部分,其需要高性能的计算资源。
  • 坚持不懈的身影:Intel自动驾驶事业群副总裁Kathy Winte “不要永远只做擅长的事情,要延展自己的能力;尝试不熟悉的东西、学习新的技术领域或是市场,如此就能有所成长并能掌握更多新机会。”
  • 中国AI产业/技术与美国差距在哪里? 美国的AI产业布局非常完善,基础层、技术层和应用层都有涉及,尤其是在算法、芯片和数据等产业核心领域,积累了强大的技术创新优势,各层级企业数量全面领先中国。相比较而言,中国在基础元器件、基础工艺等方面差距较大。
  • 机器学习做传感器融合需做大量计算:定制单元块为eFPGA 时下,机器学习是一大热门话题,它与传感器融合密切相关,对计算提出了很高要求。Achronix公司eFPGA技术各方面性能和功耗相比传统FPGA都有很大优势。今年,该公司推出的Speedcore定制单元块,又为eFPGA的性能带来了更大提升。
  • 汽车ADAS需要EMI/EMC辐射很低的开关转换器 ADAS系统在新型汽车中的应用越来越广泛。找到一种不对ADAS系统造成干扰的电源转换器件,能够极大地简化设计师的任务,同时无需复杂的布局或设计方法,就可为设计师提供需要的所有性能。
  • 一组图表说清自动驾驶汽车的前世今生与未来 众所周知,自动驾驶汽车是汽车行业的新宠,但自动驾驶汽车并不是21世纪才出现的。在1939年纽约的世界博览会上,美国通用汽车公司(GM)的Futurama首次向世人展示了对未来自动驾驶的构想,这是世界关于自动驾驶汽车的最早记录。可以说,GM是自动驾驶的鼻祖。本文的一组图表生动地呈现了自动驾驶汽车的前世、今生与未来。
  • 5G如何改变数据中心 即将提供的基于5G网络技术的数据服务将可更快地在线访问更多数据。信息的这种即时性将支持许多当今先进的技术应用——如自主驾驶汽车和虚拟现实或增强现实系统——以省去本地存储的数据并转而依赖于云。为使其发挥效率,网络延迟需要小于1ms。这不仅需要在数据中心安装5G基础设施,还要求数据中心同时靠近用户及为其服务的蜂窝射频发射塔——而如果数据中心远在250英里外则会鞭长莫及!
  • 最近五年黑客从哪些方面对网联自动驾驶汽车进行了攻击 《速8》上映如火如荼,其中百辆自动驾驶汽车被黑的场面让人印象深刻。外行看热闹,内行看门道,这无疑给风头正劲的自动驾驶的安全问题再次敲响了警钟。那么,五年来黑客都从哪些方面对网联自动驾驶汽车进行了攻击?
  • “中国IC设计成就奖”提名产品简介:IVCR1401 35V 4A Si IVCR1401是一款4A单通道高速智能栅极驱动器,能够高效,安全地驱动SiC MOSFET和IGBT, 对比传统的栅极驱动,8引脚设计更简洁,使用更方便,能大大节约开发时间成本。
  • “中国IC设计成就奖”提名产品简介:碳化硅肖特基二极管 碳化硅肖特基功率二极管在开关电源电路中的应用,更好的让电路工作在高频状态,减小电路中电感等元件体积重量,由于碳化硅肖特基二极管优良的耐温性能和低损耗特性,让电路中热沉的体积重量得到改善,便于优化电路的热设计,与此同时,应用了SOD123封装形式的该款器件,为功率二极管小型化提出了解决方案,更好的贴合对器件小型化和产品功率密度改善有要求的客户需求。该产品可应用于高频ACF,小功率GaN适配器,驱动部分自举电路,高频DC/DC电路等应用场合。G51XT碳化硅肖特基二极管已进入市场,有良好的市场反馈。
  • 瑞萨电子推出64位RISC-V CPU内核RZ/Five通用MPU,开创R 产品作为瑞萨现有Arm CPU内核MPU阵容的新成员扩充RZ家族的产品组合
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了