广告

深度相机三维信息成智能识别算法应用的关键

2020-08-07 11:07:08 赵明灿 阅读:
去年有新闻讲,小学生发现丰巢刷脸取件bug,用照片就能刷开快递柜!官方紧急下线。2D成像的缺陷是,相机成像的过程是3D到2D的投影,会丢失场景的三维信息。三维信息的缺失,限制了智能算法的应用。

去年有个新闻讲,小学生发现丰巢刷脸取件bug,用照片就能刷开快递柜!官方紧急下线。“2D成像的缺陷是,相机成像的过程是3D到2D的投影,会丢失场景的三维信息。三维信息的缺失,限制了智能算法的应用。”奥比中光研究院研究员徐玉华在ASPENCORE举办的第二届(2020)国际电子产业链资源对接大会上在发表“深度相机十年:历史、现状和未来”主题演讲时强调。opAednc

opAednc

他表示,3D视觉感知的任务,是从相机捕捉的2D图像恢复场景的三维结构,为智能识别、检测、定位、测量、AR、机器人导航等应用提供三维信息。opAednc

深度相机的分类及基本原理

据介绍,深度相机分为三个类别:结构光、双目视觉、飞行时间法(ToF)。opAednc

“深度感知的基本原理是,三维点投影过来的过程是唯一、确定的。如果只给定一个像素的话,反投影回去,可以得到一条射线,场景的深度、距离是不确定的。如果有两台摄像机的话,给定其中一个相机中的像素点,另外一个相机只要找到同名点,通过交汇就可以确定出目标点的三维信息,从而恢复出深度信息。”徐玉华介绍说。opAednc

opAednc

双目测距

双目测距的核心在于找到对应点。像人眼一样,两只眼睛看的内容实际上是不一样的,里面会有视差,核心在于通过立体匹配算法建立两幅图片中的像素点的对应关系。opAednc

opAednc

编码结构光

下图是编码结构光的一个示例,左边是人脸的三维散斑,右边是呈现出的三维人脸。好处是目标表面增加了很多的斑点纹理,重建起来的可靠性和精度都可以得到大幅度的提高。opAednc

opAednc

飞行时间法

飞行时间法则是通过直接或间接测量光线的飞行时间,来测算距离的。opAednc

opAednc

深度相机发展简史

下面来了解一下深度相机的历史。opAednc

2010年以前的深度相机成本高,精度也不高,通常用于实验室中的研究,和老百姓的生活没什么关系。2010年这个情况开始发生变化:opAednc

  • 2010年6月,微软发布XBOX360,其结构光深度感知硬件Kinect(PrimeSense)能够以30fps的帧率输出场景的深度图像,从此深度感知技术走出了实验室,进入了大众生活。
  • 2013年,PrimeSense被苹果收购。
  • 2014年,微软发布Kinect V2(ToF,512 x 424)。
  • 2016年6月,联想和Google合作的全球第一款使用Project Tango技术的AR手机发布(Phab2 Pro)。Project Tango是谷歌2014年推出的第一个大型AR项目,2018年3月终止。
  • 2017年9月,搭载结构光3D传感器的iPhoneX发布,揭开了3D传感器在手机上大规模应用的序幕。
  • 2018年,Oppo FindX搭载了奥比中光的结构光深度传感器(640x480)。
  • 2019年,微软发布Kinect Azure(1024x1024);华为手机P30 Pro,Sony iTOF(240*180)。
  • 2020年,苹果ipad pro 11,dTOF(24x24),用于AR。

深度感知方法比较

双目相机的精度不大可控。因为是依赖于场景的纹理,场景纹理越丰富,双目的精准性就越高,而如果拍一些光溜溜的白墙,精度就不行。opAednc

结构光和TOF都是主动测距方法,精度比较高。对结构光来说,在近距离情况下,比如苹果手机用的刷脸,其精度会比TOF高。结构光还是三角测距法,TOF没有这个问题。iTOF也有多路径的效应。双目的测量距离可以测到100米、几百米,不受距离的限制。opAednc

opAednc

被动双目的进展

从下图可以看到,对于英特尔的传感器,采用传统双目算法,纹理不丰富的区域效果很差,而用神经网络的方法得到的结果非常漂亮。深度学习算法在深度路径方面取得了成功。opAednc

opAednc

产业应用情况

下面几个数字对产业来说很有意义。opAednc

  • Kinect(体感游戏)推出以后,其销售量达到3500万+套。
  • FaceID,由苹果iPhone X引领,搭载3D传感器的手机超过1亿台。
  • 目前,支付宝和微信都在布局线下刷脸支付,已过百万台量级的规模,未来几年会到千万级别。
  • RGB+IR+depth的人脸识别,比单纯的RGB人脸识别,1:N的比对上,N可以提升30倍,不仅只用于活体检测。
  • RGB+D,对骨架检测、行为识别算法也会有显著提升(约10%)。
  • 机器人SLAM,包括各类汽车上的激光雷达,在快速增长。

奥比中光与3D感知

奥比中光于2018年获评“独角兽”企业,今年荣获广东省科技进步一等奖。该公司于2013年成立,发展速度比较快。opAednc

opAednc

奥比中光的3D感知技术,应用领域比较多,包括移动终端、智慧零售、数字家庭、智能服务、智能制造、智能安防、智能交通、智慧政务。opAednc

opAednc

下图是魅族3D深感传感器,可以做硬件级人像虚化、AR尺子、AR夜视仪。opAednc

opAednc

支付宝的刷脸支付/奥比中光3D刷脸支付解决方案,应用已有数百个城市。现在深圳坐地铁是刷二维码,而如果以后刷脸能普及的话,减少人流拥堵的效果就更好。opAednc

opAednc

下面是门锁。“拎着一大包东西还得把手指掏出来刷指纹,有刷脸的门锁更方便。”徐玉华举例道。opAednc

opAednc

贝壳如视VR看房,360扫地机器人自主免障,京东智慧物流,可以直接录入到系统提高效率。opAednc

opAednc

还有很多有趣的应用,例如刷脸和医保卡绑定就是之一。opAednc

opAednc

单相机的动态人体重建系统,买衣服只要直接转一下体型就出来了,穿什么型号的衣服就出来了,很方便。opAednc

opAednc

展望未来

结构光、双目和TOF技术属于不同的流派、不同的技术。这三者优势互补,不是替代关系,而是长期并存的。opAednc

这两年dTOF技术正在快速发展。opAednc

3D感知技术应用在多个领域已经崛起(3D人脸识别、场景建模、手机AR、AR眼镜、机器人定位/导航、物流、自动驾驶/辅助驾驶等),并在迅速扩大到其他领域,包括人脸形貌、脚型、人体三维重建, AR平行世界等。opAednc

奥比中光将致力于全方位深耕3D感知技术,包括结构光、双目、iTOF/dTOF,从底层Sensor、芯片设计,到光学、算法、系统优化。opAednc

本文为电子技术设计原创文章,未经授权禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
赵明灿
赵明灿是EDN China的产业分析师/技术编辑。他在电子行业拥有10多年的从业经验。在加入ASPENCORE之前,他曾在电源和智能电表等领域担任过4年的工程师。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 因眼睛小车主被辅助驾驶误判“开车睡觉”,小鹏、蔚来回 昨日,汽车博主@常岩CY 发博称自己突然上了热搜,原来就是因自己眼睛小被小鹏汽车自动驾驶误判“开车睡觉”,不住的发出提醒。此外,@常岩CY 称在多款车型上都收到此困扰。无论是红外还是摄像头,只要开始检测眼睛,就会判定过度疲劳。小鹏P7会提示他睡觉,蔚来ET7一开车就认为其疲劳和走神,岚图FREE会在冬天为了让其“别困”而打开冷风……
  • 国际象棋机器人Chessrobot夹断对手手指,意外还是设计缺 据悉,在7月19日的莫斯科国际象棋公开赛期间,一位7岁小男孩疑似因提前走子犯规手,意外被“对手”国际象棋机器人Chessrobot夹住手指,造成指骨骨折,该事件登上了热搜榜。该男孩是莫斯科9岁以下最强的30位棋手之一。
  • “智能家居”未来将可通过呼吸控制操作 凯斯西储大学的研究人员创造了一个简单的原型设备,使用户能够通过改变他们的呼吸模式来控制“智能家居”。这种自供电装置可放入鼻孔,并有可能提高行动不便或无法清晰说话的人的生活质量。如果个人呼吸困难,它也可以编程为医务人员提供自动警报。
  • 核酸采样机器人将取代“大白”?用了哪些技术保证采样准 取棉签、核酸采样、储存核酸采样管、设备消杀……动作精准流畅,今后给你核酸采样的可能不再是“大白”,而是机器人。EDN小编就带大家来看看,目前已被使用的核酸采样机器人有哪些?
  • 一个AI程序就可将手机电池增加30% 一项尖端的人工智能开发可以将智能手机的电池寿命延长 30%。这项应用则是利用 AI 分析正在使用的应用程序的 FPS 变化,并试图找到 CPU 和 GPU 处理器的最佳运行频率以适应变化,同时消耗设备中最少的功率和温度增益……
  • AI视觉芯片如何赋能两轮车出行? 6月29日,在由全球领先的专业电子机构媒体AspenCore和深圳市新一代信息通信产业集群联合主办的“2022国际AIoT生态发展大会-智慧两轮车分论坛”中,嘉楠科技副总裁汤炜伟以《勘智AI视觉芯,赋能智眼两轮行》为主题,向大家分享了嘉楠地芯片设计创新历程,及其RISCV架构AI芯片技术路线图,并以具体案例展示AI视觉芯片如何赋能两轮车出行。
  • 碎片化、成本高是难题,AIoT行业需要哪些改变? 作为AIoT的行业基石,物联网市场到2022年预计将达到 144 亿活跃连接。随着供应限制的缓解和增长的进一步加速,IoT Analytics 最新预测指出,到2025年全球将有大约 270 亿台联网物联网设备。中国物联网链接到2025年也将达到80亿。随着整个AIoT和IoT市场的快速成长与变化,我们将面临哪些风险和挑战?
  • 英特尔张宇:边缘AI有三个阶段,我们还处在山脚 在AspenCore举办的“2022国际AIoT生态发展大会”上,英特尔公司高级首席工程师、物联网事业部中国区首席技术官张宇博士通过视频方式分享了“边缘AI技术发展趋势与展望”主题演讲。
  • 世界上尺寸最大的芯片Wafer Scale Engine-2打破了在单 Cerebras公司售价数百万美元的“全球最大AI芯片”Wafer Scale Engine-2又有新消息,在基于单个Wafer Scale Engine-2芯片的CS-2系统上训练了世界上最大的拥有200亿参数的NLP(自然语言处理)人工智能模型。
  • 婴儿或可帮助解锁下一代人工智能 都柏林圣三一学院的神经科学家及其同事刚刚发布了改进人工智能的新指导原则,他们表示,婴儿可以帮助解锁下一代人工智能(AI)。
  • 日本要利用机器学习实现半导体研究自动化 新型薄半导体材料的开发需要对大量反射高能电子衍射(RHEED)数据进行定量分析,既耗时又需要专业知识。为了解决这个问题,东京理科大学的科学家们确定了可以帮助自动化 RHEED 数据分析的机器学习技术。他们的发现可以极大地加速半导体研究,并为更快、更节能的电子设备铺平道路。
  • 纯视觉自动驾驶更安全?美国交通部发布数据打脸特斯拉 特斯拉的纯视觉自动驾驶到底效果如何?真的如马斯克所说的:“通过摄像头和计算机网络让自动驾驶比人类驾驶更安全”吗?近日美国国家公路交通安全管理局发布了一份新的数据,颇有打脸特斯拉的意味。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了