关注我们:
欢迎来到1号无人车网!聚焦无人驾驶物流技术与服务!
0319-7596975
欢迎拨打垂询热线!
公众号:china1umv
行业动态 /news
MORE+
产品分类
无人物流配送车
行 业 活 动
工业扫地机器人
新闻详情    NEWS
无人车新破绽:3D打印障碍轻松骗过9成算法,无人驾驶还安全吗?
来源:金九智能3D | 作者:金九智能3D | 发布时间: 1006天前 | 897 次浏览 | 分享到:
不久前,全球31家自动驾驶公司接到了同一支科研团队的通知:你们的L4级自动驾驶系统,有重大缺陷。

不久前,全球31家自动驾驶公司接到了同一支科研团队的通知:你们的L4级自动驾驶系统,有重大缺陷。

这个科研团队研发3D打印的路障,能骗过90%以上的激光雷达和ADS系统。问题就出在传感器融合方案上。所谓多传感器融合,其实融合了个寂寞。

主流L4方案,几乎无一幸免。

L4级自动驾驶系统识别障碍物失败率超90%

目前各家公司研制的L4级无人车系统,普遍采用多传感器融合的设计,融合不同的感知源,比如激光雷达和摄像头,从而实现精准的感知。

这样的设计,前安全冗余的出发点是各个感知源不被同时攻击,所以总是存在一种可能的多传感器融合算法,依靠未被攻击的传感器来确保安全。

这个基本的安全设计假设在一般情况下是成立的,然而研究团队发现,在现实世界中,这种多传感器融合的障碍物感知存在漏洞。

同时攻击不同或单个的感知源,都能使无人车无法识别障碍物并直接撞上去。

测试结果显示,在不同的障碍物类型和多传感器融合算法中,攻击实现了≥91%的成功率。

同时团队还发现,系统生成的恶意3D障碍物,从驾驶者的角度看是隐蔽的,完全模拟现实情况;此外,对不同的被攻击车的位置和角度都有效,平均成功率>95%。

在安装了激光雷达和摄像头的实车测试中,系统对于3D打印、表面经过处理的交通锥识别失败率高达99.1%。

  这种状况的原因是人为处理的恶意障碍物,对于物体表面做了特殊处理,雷达回波信号发生了变化,系统无法识别。

  而所谓多冗余的视觉系统,也没能做出补救。

  另外,在对百度Apollo自动驾驶的测试中,出现了100%识别失败的情况。

  这个漏洞带来的危害和隐患是巨大的。它很容易在现实世界中实现。

  攻击者可以利用3D建模构建这类障碍物,并进行3D打印。还可以高仿合法出现在道路上的障碍物,在其中填充水泥、金属等等,重量轻松超过100公斤,高度迷惑、又能造成严重的碰撞后果。

  另外,攻击者还可以利用道路障碍物的功能设计一种仅针对无人车的攻击:将钉子或玻璃碎片放在生成的恶意障碍物后面,这样,人类驾驶员能够正常识别交通锥并绕行,而无人车则会忽视交通锥然后爆胎。

  在这种情况下,恶意的障碍物体可以像普通交通锥体一样小而轻,以使其更容易3D打印、携带和部署。

  多感知融合不是万全之策

  自动驾驶研发团队一直把多传感器融合作为对抗单个传感器攻击的有效防御手段,但这项研究证明传感器“堆料”不能从根本上防御对自动驾驶系统的攻击,也让大家意识到多传感器融合感知同样存在安全问题。

  一般车上都有的紧急刹车系统可以防御这种攻击吗?

  可以减少风险,但不能完全防止。

自动驾驶系统的存在意义,就在于自行处理尽可能多的安全隐患,而不是依赖紧急刹车系统。

所以唯一的方法是自动驾驶供应商们要想办法在系统层面上解决漏洞。