陈锋:虹软视觉感知技术打造智能安全的驾乘体验

2021-09-26 05:03:04 来源:  作者:

  9月14日,由盖世汽车主办的2021中国商用车自动驾驶大会隆重召开。本次峰会主要聚焦商用车自动驾驶行业发展趋势,共同探讨从感知、决策到执行层面的核心技术,以及港口、矿区、干线物流、园区等不同终端场景的产业化落地方案。下面是虹软科技股份有限公司视觉车载事业群副总经理陈锋在此次大会上的发言。

  大家好!

  虹软公司是一家算法公司,我们自1994年成立以来一直都在做视觉感知算法,只做一件事情。

  视觉感知是自动驾驶的基础,离开感知就等于你看不见,是一个盲人,什么事情也做不了。感知方面有毫米波雷达,有激光雷达,有其他的传感器,包括夜视红外,每个级别从L0到L5都离不开视觉传感器。我们把视觉分为舱内和舱外,在2035年到来之前,十几年以内可能在车上面还是有驾驶员,有驾驶员就需要做驾驶员状态监控,需要DMS,需要很多让他工作起来更安全更快捷的方法。

  虹软公司是1994年在美国成立的,在2017年把总部搬到中国以后,2019年在上海科创板上市,是首家视觉感知的公司(科创板上市),也是25家第一批科创板上市的公司之一。我们做的视觉感知都是嵌入在客户的设备之中,比如说最早的打印机、电脑、数字摄像机、功能手机、智能手机等等,装载虹软算法的终端设备已经超过100亿台。

  这是我们视觉感知的各个方面,从传统基础摄影技术到图象增强,再到智能感知。我们进入汽车行业并不太久,但在进入到汽车行业以后,我们的定点的项目已经超过了50个车型,覆盖了乘用车领域国内主要的主机厂,还包括新能源汽车。

  我们的视觉感知基本上是全栈式的,从舱内到舱外,DMS、OMS、Authenticate、人机互动、ADAS、AVM/MOD、AR导航、HUD、舱内娱乐系统。为什么有舱内娱乐系统?主要在乘用车,但是商用车也可能发展起来,为什么?刚才嘉宾讲商用车司机疲劳是常态,长期驾驶是他工作的一部分,有什么办法不光能检测到他的疲劳,而且减轻他的疲劳,舒缓他的疲劳,在舱内智能技术是不是能起到帮助的作用呢?咱们也可以一起来探讨。

  在商用车方面,我们的算法主要是舱内的DMS以及人机交互、OMS、舱外ADAS、AVM相关的产品,在商用车领域除了算法授权之外,我们也有软硬一体解决方法,有硬件产品,包括了一个摄像头的AI Camera,这个摄像头可以只做DMS,也可以只做开门提醒,我们也有2-4路中低端硬件解决方案AI BOX,4路摄像头可以做AVM,也可以组合做其他功能,包括4-8路高端解决方案AI BOX。

  AI Camera应用最多是舱内感知DMS。2-4路的,比如说BSD,前左右BSD加上DMS,还有其他的组合,我们不仅有硬件,算法也是一起提供的。这是AVM,也可以把4路全部用做AVM,4-8路就更多了,这里有部标机形态,也可以做其他非部标的形态,这里可以有不同组合。

  下面主要用视频跟大家分享一下我们实际做的产品情况,首先是DMS。这里面包括人脸识别,可以识别驾驶员是谁,包括疲劳、分心、抽烟、打电话以及手势控制等。(VCR内容)

  疲劳除了简单的眼部以及脸部表情识别之外,我们加了很多其他功能来做疲劳检测,比如说视线方向和状态,可能会显示出你是不是疲劳状态。比如你在疲劳前,真正要打磕睡以前,很多人会揉揉眼睛,也可能会揉揉脸,也可能会扭扭脖子做做其他的动作,我们就可以把早期疲劳状态提前检测出来。

  昨天讨论的时候也提到,目前DMS设备等到报警的时候已经太晚了,已经太疲劳了,没有用,我们可以有其他办法让这个疲劳检测更加精准,而且能够预判,让决策和执行机构根据感知结果进行决策和控制。还有生理特征,通过同样一个DMS摄像头检测到血流的变化得到心率情况,如果心率变慢也有可能是开始进入疲劳状态,这样各种组合真正知道驾驶员身体和生理状态是不是疲劳。

  还有安全带检测,各个视角的摄像头,以及驾驶员玩手机、看手机、发微信等可以非常鲁棒性的知道,真正的检测到你这个行为的状态。还可以用三维视觉TOF来检测到这个手是不是真正在方向盘上面。

  OMS主要在客运里面用的比较多,在共享汽车后排遗留物,乘客的流量,比如说比亚迪这样的客车公司,把人流统计应用在调度系统,根据车上乘客多少的情况,可以实时进行监控,调度各路公交车。

  儿童检测,在欧洲和美国都开始有立法,就是对车上面的儿童安全进行保护。有没有儿童,有没有儿童座椅,在不在座椅上面,大人走了是不是儿童遗留在上面,这些都有法规要求,在2024年以后可能所有的车都要搭载这个功能,这些都是可以通过视觉来感知的。

  身份认证,简单来说可以通过手机进行注册,上车以后通过同一个DMS摄像头,就可以进行人脸识别驾驶员验证。

  在互动方面,现在的技术很多,对于驾驶员来讲,特别是卡车,大的车辆驾驶员来讲,有的时候做一个手势可能更便捷更安全,所以我们是通过各种手势进行舱内操作,比如说接电话,切歌等等都可以通过手势进行控制。

  视线唤醒各种屏幕,现在车上各种屏幕很大,包括前面讲的EMS,把侧视镜子用摄像头替代,用视线交互来控制什么时候亮,还有通过控制器来交互,这也是视线唤醒的一种应用。

  ADAS不用多讲,大家都很熟悉,我们有几乎所有功能的ADAS,针对车辆、车道线、行人、交通标志、地面交通标志、三维汽车模型、三阶曲线拟合等等都做了很多工作,包括红绿灯。

  AVM,这个现在在商用车上面是一个必备的功能。因为我们做手机的全景拍摄很多年,所以对于拼接、去畸变、去鬼影等技术已经有非常多的积累,所以我们用在车辆上面可以实现很快的转化。

  (PPT内容)这是加了一个透明底盘,就是说把这些图像进行处理以后,底盘下面情况也可以看到。这是加了倒车指引线以及行人识别和障碍物识别,这些都是有机整合在同一个摄像头一套系统里面。

  讲到盲区,这是在商用车里面非常重要的一个技术,确确实实商用车盲区非常大,特别是大型卡车和客车,司机是真的看不见,那么怎么帮助他们避免事故的发生,也是我们技术非常重视的部分。

  每一辆车盲区不一样,它需要安装的摄像头个数和位置都不一样,对我们视觉感知技术也是有不同的要求,我们的算法可以适应不同车辆、位置和环境,能够做到最大限度减少盲区危险。

  同时也可以在广角鱼眼摄像头上面直接做障碍物和行人车辆非机动车的检测,复用同一颗摄像头,不需要增加另外一个设备,在司机看得到的同时能提醒你有没有危险,有没有行人,有没有其他的障碍物。

  我们有可行驶区域,虽然检测到有行人,但是在人行道上不可能被你撞到,所以这种情况下就没有必要对你进行提醒。

  还有一个非常好用的功能就是开门提醒,我们用AVM摄像头或者其他摄像头可以跟门锁控制联动在一起,这也是在中国道路上经常出现的事故。

  AR HUD,这个量产现在也越来越多了,在商用车上以后可能也会用,因为确实能够让司机专注在前方道路上不需要向其他地方去看。

  最后讲讲车内娱乐系统,可以在车上面做手机可以做的事情,可以美颜,可以虚化背景,可以做各种各样的AI的事情,乘用车上这也是为了吸引年轻一代的消费者,而在商用车上在休息的时候是不是也可以做一些直播或者加一些美颜等等,这也是有可能的。

  以上就是我们所做的事情,那么虹软的优势是什么?

  虹软二十多年一直在做一件事情视觉感知算法,我们的优势,首先是算法优势,我们是一站式全解决,从基础的图像增强、图像处理到图像分析到智能分析都有。另外就是平台优势,我们做的平台很多,不管是高通的,TI的和其他平台都有针对性优化算法。此外是服务的优势,装载我们的设备超过100亿台,我们有专业的服务团队可以就地在车厂帮助你们进行落地。

  我们的算法落地就是覆盖所有影像视觉基础技术,在AI、AR/VR上面,还有三维立体建模等等都是非常成熟的方案。

  对于算法,比如说ADAS算法,这是一个视频前方测试,前方静止车辆或者静止行人的时候,我们跟市场上比较优秀的算法比较,我们的算法跟他们相比不相上下,有的时候有一些优势。对于静态行人也是一样,如果从80米开始,前方有一个静态行人,什么时候开始检测到这个行人,检测到距离精确度也有比较多的测试,我们的算法还是有不少优势的。

  平台优势有主流平台,高通就不用多讲了,我们是战略合作伙伴,每次高通新的芯片发布的时候,基本会放一段虹软算法展示他们的效果,在其他的NXP、TI、Ambarella、MTK等等上面都有很好的落地案例。

  虹软从算法到平台二十多年的耕耘,二十多年的优化落地的能力。我们认为,对于客户来讲,最关键的就是要成就他们,不光有算法,还要落地,对于我们产品来说最重要的是算法和工程,我们常讲的优势就是三个P:Price、Performance、Power Consumption。在各种不同环境下,在暗光、强光各种情况下都有很好的表现,我们在多年手机上面芯片上面深度优化的积淀对资源的利用非常地高。比如说在现有硬件上加功能,比如你对自己的DMS不满意,但是你现在只有有限的资源,能不能用我们的DMS来取代,让你做的更好更精确,比如只给一个DSP或者一个CPU有限算力的情况下,我们可以帮助你做到最优,做到最好。

  免责声明:本网站所提供的信息仅供参考之用,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。

推荐阅读
  • 骑乘电动车必须佩戴安全头盔

    9月18日,潍坊市十七届人大常委会第四十七次会议表决通过了《关于深入实施<潍坊市道路交通安全条例>进一步规范电动车驾乘人佩戴头盔确保安全的意见》(以下简称《意见》),就佩戴安全头盔问题提出11项要求,明确在本市范围内,电动车驾驶人和乘坐人必须按规定佩戴安全头盔,公安机关交通管理部门对经教育仍不佩戴者,依法予以处罚。此外,截至9月16日,全市电动自行车、摩托车安全头盔已发放成人头盔492683个,儿童头盔39941个,共计532624个。[详细]

    09-22 13-42
  • 举报投诉火灾隐患 今后请拨打12345

    遇到火灾隐患想要投诉,市民首先想到的是拨打96119,不过这已成为历史。9月18日,记者从市消防救援支队获悉,即日起,96119撤销归并到12345。[详细]

    09-22 13-43
  • 潍坊仲裁在业界率先推出合同公益审查服务

    为深入开展“我为群众办实事”实践活动,落实服务企业专员制度,充分发挥仲裁职能优势、展现仲裁服务担当,让广大群众和市场主体享受到仲裁服务的红利,近日,潍坊仲裁委员会启动合同公益审查服务。记者了解到,该服务为全国业界首创。[详细]

    09-01 09-48
  • 潍坊牛人 | 全国知名“指纹破译专家”孙培亮

    案发现场一枚小小的指纹,也许就是破解案件的密钥,它能引领警方拨开重重迷雾,不断走进事实、走近真相。潍坊市公安局刑警支队技术员孙培亮,18年来立足本职,勇于探索,潜心研究指纹技术,屡破大案要案,逐步成长为全国知名的“指纹破译专家”。[详细]

    08-23 09-18
  • 高铁大巴自驾 去胶东机场全攻略

    8月12日,青岛胶东国际机场正式启用,从潍坊去胶东国际机场怎样出行最便捷?10日,记者了解到,潍坊北站8趟列车经停青岛机场站,用时约28分钟。潍坊至青岛胶东国际机场大巴班线由原来的每天12班增加到每天14班,每班运行时间由原来的2小时左右缩减至90分钟。如果市民自驾前往,[详细]

    08-11 10-53
  • 从严从实 潍坊市加强疫情防控

    8月1日,记者从市委统筹疫情防控和经济运行工作领导小组(指挥部)办公室了解到,我市下发《关于从严从实抓好近期疫情防控工作的紧急通知》和《关于进一步加强当前疫情防控工作的通知》,在强化重点地区人员健康管理,强化机场、港口、火车站、汽车站等外来人员密集场所防控[详细]

    08-02 09-48