讲个“鬼故事”:
夜深人静,一辆特斯拉Model X在空无一人的公路上行驶着。
瞬间!它看到了“人类看不见的东西”,于是便刹车在路上停了下来……
来感受一下这种feel。
而这辆特斯拉停车的原因,竟然是因为它看到了“幽灵” 。
坐在自动驾驶车上,大半夜的又遇上这种事情,可以想象驾驶员的心理阴影了。
……
但实际上,其实特斯拉看到的并非是“不干净的东西”,而是被称作“幽灵”(Phantom)的一种攻击自动驾驶辅助系统(ADAS)的图像——掺杂在路边广告牌视频中。
这种图像出现的时长极短,可以用一瞬间来形容。
人类驾驶员往往不会注意到,但对于自动驾驶系统,却成为“强有力的停车信号”。
也千万不要小瞧这种攻击,它给自动驾驶车辆和人类带来的后果,或许要比这个“鬼故事”还要恐怖。
隐藏在广告牌中的“幽灵攻击”
在这个案例中,“幽灵攻击”是隐藏在路边广告牌的视频中。
当时,视频中的内容是这样的。
看似是美味的汉堡包广告,但播放期间掺杂了一张“幽灵攻击”图像,这就是“鬼故事”的罪魁祸首——0.42秒的停车路标。
人类驾驶员大概率在行驶过程中,不会过分关注路边广告牌的视频内容;即使看到了这一闪而过的图像,也基本会认为是个bug。
但自动驾驶系统就不同了,顶着那么多雷达和摄像头,时时刻刻“眼观六路”。
于是,搭载特斯拉HW3的Model X,便采纳了这一瞬间停车路标的“建议”。
可能你会说,特斯拉Model X或许是个例。
别急,“幽灵攻击”还在Mobileye 630 Pro系统做了实验。
这次隐藏在视频中的内容是这样的。
此次的“幽灵攻击”是一张仅闪现0.125秒的“90英里/小时”路标。
于是,搭载Mobileye 630 Pro的车辆,在“看到”这个视频后,速度就真的控制在了90……
“幽灵攻击”都是这种一闪而过的图像吗?
不不不。
在路上投影个图像,也是可以的。
这一次,“幽灵攻击”不再是转瞬即逝,而是一直好好的“躺”在那里。
然后搭载HW2.5的特斯拉,就把图像检测成了“人”,车速从18英里/小时,降到了14英里/小时。
来看下AI眼中的世界:
安全,一直是自动驾驶领域十分关注的问题,也是必须要保障的一个点。