原創(chuàng) 睿悅 果殼

自動(dòng)駕駛的歷史中曾出現(xiàn)過這么一則奇怪的事故：2016 年美國佛州的高速公路上，司機(jī)約書亞 · 布朗開啟特斯拉自動(dòng)駕駛（Autopilot）模式，接著雙手離開方向盤。

在一個(gè)路口，一輛白色卡車向左拐彎，正巧遇上布朗駕乘的特斯拉。

天空下的白色卡車｜pixabay

據(jù)當(dāng)時(shí)的目擊者稱，當(dāng)白色卡車出現(xiàn)在面前時(shí)，布朗的特斯拉依然全速行駛，并徑直撞上卡車的底部。調(diào)查顯示，當(dāng)時(shí)特斯拉的時(shí)速是每小時(shí) 119 公里。

布朗當(dāng)場(chǎng)死亡。

但特斯拉依舊繼續(xù)行駛，并逐漸偏離道路，直到撞上兩個(gè)圍欄，以及一根電線桿后，才停下。

事故示意圖｜Wikimedia Commons by Jzh2074

官方對(duì)這場(chǎng)事故的解釋是：“無論是自動(dòng)駕駛儀，還是駕駛員，都沒有注意到拖車白色的一面映襯著明亮的天空，所以沒有剎車?！币簿褪钦f，自動(dòng)駕駛將陽光下的白色貨車，認(rèn)成了天空。

而這之后的五年里，又有至少三輛特斯拉，朝著白色卡車全速?zèng)_去——似乎自動(dòng)駕駛依然無法分辨白色的巨物與發(fā)光的天空。

在自動(dòng)駕駛的眼睛里，世界總是不太一樣。

自動(dòng)駕駛怎么看世界？

自動(dòng)駕駛的眼睛主要由毫米波雷達(dá)、激光雷達(dá)和攝像頭等傳感器擔(dān)任。

毫米波雷達(dá)利用電磁波的反射，測(cè)量物體的距離、速度等物理信息。它的抗干擾能力強(qiáng)，探測(cè)距離遠(yuǎn)，適合在雨雪風(fēng)沙等惡劣的天氣下使用。它還可以隱藏式安裝，不影響車輛的整體外觀。但它無法測(cè)量高度，世界在它眼里是扁平的。

購物平臺(tái)上的毫米波雷達(dá)｜淘寶截圖

激光雷達(dá)則可以看到 3D 的世界，與毫米波雷達(dá)類似，激光雷達(dá)也是通過發(fā)送脈沖—接受反射的方式計(jì)算物體的距離、速度等信息。但因?yàn)榧す馐且怨馑賯鞑?，它的測(cè)量會(huì)更加精準(zhǔn)。激光雷達(dá)每秒發(fā)出數(shù)千個(gè)脈沖，通過計(jì)算不同角度的反射光波，激光雷達(dá)可以還原出目標(biāo)物體的三維立體圖像。

激光雷達(dá)掃描示意圖｜Wikimedia Commons

但想知道眼睛里的東西是什么，還是要交給攝像頭。在算法的加持下，攝像頭可以識(shí)別出前面的是人、動(dòng)物還是建筑，不過，依舊是以 2D 的形式，像是看照片那樣。

目前主流的識(shí)別方案是多傳感器融合，像國內(nèi)某些代表性車型，會(huì)擁有 5 個(gè)高精毫米波雷達(dá)，13 個(gè)車外攝像頭和 1 個(gè)車內(nèi)攝像頭。

而特斯拉則堅(jiān)持只用使用攝像頭（在最新的更新中，特斯拉甚至放棄了車上最基礎(chǔ)的超聲波雷達(dá)，真的實(shí)現(xiàn)了全車無雷達(dá)純視覺），理由是擔(dān)心雷達(dá)和攝像頭感知不一致時(shí)，汽車會(huì)不知道該相信誰。但更基礎(chǔ)的理由是：一，純攝像頭方案成本更低；二，算法的突飛猛進(jìn)的確能夠彌補(bǔ)攝像頭相比雷達(dá)的劣勢(shì)。

特斯拉車內(nèi)顯示｜unsplash

但不管哪種路線最終勝出，傳感器都只能看見，要理解這些“看見”意味著什么，還是要靠感知算法。搭配不同傳感器傳來的信息，目前的算法可以知道汽車所處的位置和道路的模樣，理解交通信號(hào)燈，追蹤路上不斷出現(xiàn)的障礙物，還可以讀懂路標(biāo)上的文字。

“老實(shí)的自動(dòng)駕駛，已經(jīng)勝過新手司機(jī)”，一定程度上的確如此。

當(dāng)馬路中央蹦出一只皮卡丘

但當(dāng)一只皮卡丘蹦到馬路中央時(shí)，自動(dòng)駕駛一定是懵的。

當(dāng)一只皮卡丘蹦到馬路中央｜Giphy

這種“罕見又突發(fā)”的意外情況，在自動(dòng)駕駛行業(yè)中被稱為邊角案例（corner case, CC）。這是來自是系統(tǒng)測(cè)試中的一個(gè)術(shù)語，原意指出現(xiàn)多個(gè)參數(shù)都在極端情況下的情形。文章開頭的事故，就是一例典型的 CC。

CC 通常被分為五個(gè)層次，對(duì)應(yīng)著自動(dòng)駕駛認(rèn)知意外的不同復(fù)雜情況：某個(gè)像素點(diǎn)不清晰；場(chǎng)景從“習(xí)慣”切換成“不習(xí)慣”；出現(xiàn)不知名物體（但位置和目標(biāo)清晰）；位置和目標(biāo)也不明確；直至目標(biāo)、場(chǎng)景、環(huán)境的全面“意外”。

但任何一個(gè)小型 CC，都可能造成嚴(yán)重的后果。

大馬路上出現(xiàn)一只可愛的黃毛電氣老鼠，就是一種“未知物體”層面的 CC，識(shí)別失敗的后果要么是你遭受十萬伏特電擊，要么是被精靈訓(xùn)練師爆錘。而真實(shí)世界中可能發(fā)生的事情只會(huì)更糟，沃爾沃的澳大利亞技術(shù)經(jīng)理在2017年曾爆料，自家公司的自動(dòng)駕駛不認(rèn)識(shí)袋鼠。

袋鼠：“你不認(rèn)識(shí)我”？｜Giphy

“汽車通過利用地面作為參考點(diǎn)來探測(cè)動(dòng)物，以確定物體的距離”，這位技術(shù)經(jīng)理說，但當(dāng)袋鼠蹦蹦跳跳地穿行在公路上，蹦在空中時(shí)，自動(dòng)駕駛會(huì)將它識(shí)別成一件天空中的物體，判定它的距離比實(shí)際遠(yuǎn)很多；而當(dāng)袋鼠落地，自動(dòng)駕駛又會(huì)將它識(shí)別得比實(shí)際距離近一些。

自動(dòng)駕駛難以識(shí)別袋鼠的蹦跳｜Giphy

我們可以想象一個(gè)澳大利亞的沿海公路上，幾只歡快跳躍的肌肉袋鼠旁，一輛自動(dòng)駕駛汽車不知所措地面對(duì)著眼中這忽大忽小忽遠(yuǎn)忽近的不明物體，停也不是，走也不是。

想想都替它感到害怕。

一只激光筆干翻自動(dòng)駕駛

下圖可見，目前主流的傳感器皆有其短板，都可造成對(duì)道路情況判斷的不準(zhǔn)確。

_

辨別3D信息

易干擾

直接測(cè)速

探測(cè)范圍

毫米波雷達(dá)

否

否

是

15-250m

激光雷達(dá)

是

是

是

小于300m

攝像頭

借助軟件可實(shí)現(xiàn)

是

否

大于500m

在傳感器的局限下，算法變得很容易被“欺騙”。

曾有人實(shí)驗(yàn)過，將一束普通的激光照射在有軌電車上，自動(dòng)駕駛就會(huì)把電車認(rèn)作青蛙；當(dāng)激光照射在海龜身上，海龜在自動(dòng)駕駛眼中就成了水母；如果激光再變換一下顏色，它還會(huì)把一條蛇，依次識(shí)別為襪子、麥克風(fēng)、菠蘿蜜、玉米，或熱狗腸。

激光變顏色，蛇就變形態(tài)｜參考文獻(xiàn) [1]

有自動(dòng)駕駛的安全專家分析，這可能是因?yàn)樗惴▽⒓す馐念伾脖嬲J(rèn)為原有物體的一部分，比如當(dāng)波長為 400nm 的激光束照射在“刺猬”上時(shí)，刺猬的刺與激光束引入的紫色結(jié)合后，會(huì)被算法最終辨認(rèn)為“刺苞菜薊”。

激光下，刺猬變刺苞菜薊｜參考文獻(xiàn) [1]

如此迷惑算法的成功率很高，在室內(nèi)和室外的測(cè)試中，成功率可以分別達(dá)到 100% 和 77.43%。而這樣的激光筆，二三十塊錢就能買到一只。

另一個(gè) CC 產(chǎn)生的重要原因，來自于目前圖像識(shí)別數(shù)據(jù)的無法窮舉。圖像識(shí)別的訓(xùn)練方法主要是人類塞資料，機(jī)器記憶和歸類。算法像一個(gè)記憶力超群的小孩，可以記住塞入的任何資料和場(chǎng)景，但它尚不是成熟變通的高手，交通標(biāo)示牌上黏了片樹葉、攝像頭上趴了只昆蟲、都有可能讓算法輸出截然不同的結(jié)果。

為什么CC這么重要？

自動(dòng)駕駛領(lǐng)域用“二八定律”形容解決 CC 問題的重要程度——要花 80% 的時(shí)間，才能解決這看似“罕見”的 20% 問題——他們說，這是通向真正意義上自動(dòng)駕駛的必經(jīng)之路。

精確識(shí)別 CC，正確處理 CC，這其實(shí)是安全和效率（或者說駕駛體驗(yàn)）平衡的問題。人們都是期待自動(dòng)駕駛的絕對(duì)安全，卻也沒有人愿意接受每小時(shí)五公里還時(shí)不時(shí)頻繁剎車的自動(dòng)駕駛交通體驗(yàn)（況且低速與剎車同樣會(huì)帶來安全問題）。

沒有人愿意接受頻繁剎車的自動(dòng)駕駛體驗(yàn)｜Giphy

自動(dòng)駕駛的危險(xiǎn)和普及障礙不但來自于“有，但認(rèn)不出”，也會(huì)來自“無，但誤判了”。特斯拉曾經(jīng)的“幽靈剎車”事件就是一個(gè)典型。

一名特斯拉車主在舊金山行駛時(shí)，路上飄著只塑料袋。“突然，汽車好像鎖住了”，這名車主回憶，它的特斯拉從大約 40 公里每小時(shí)，突然自動(dòng)減速到 24 公里每小時(shí)，“但它立刻松開，因?yàn)樗芰洗崎_了“。

公路上常見的塑料袋也會(huì)影響自動(dòng)駕駛｜Wikimedia Commons by Ivan Radic

這名車主還比較幸運(yùn)，至少他的車沒有在舊金山車來車往的公路上突然剎車。2022 年 2 月至 6 月，美國國家公路交通安全管理局共收到了 404 起關(guān)于特斯拉莫名突然剎車的投訴。車主們用“幽靈剎車”形容這種遭遇——在沒有危險(xiǎn)情況發(fā)生時(shí)，開啟自動(dòng)駕駛輔助模式的特斯拉突然剎車或減速，這會(huì)提升追尾事故的風(fēng)險(xiǎn)。

美國卡內(nèi)基梅隆大學(xué)專注于自動(dòng)駕駛汽車安全方向研究的教授菲爾·庫普曼分析，這或許是特斯拉的開發(fā)人員沒能正確設(shè)定汽車的決策閾值導(dǎo)致，特別是特斯拉的信息識(shí)別幾乎只依賴攝像頭，而沒有雷達(dá)等其他傳感器的輔助。

公路交通，本就是我們創(chuàng)造出的最復(fù)雜系統(tǒng)之一｜Giphy

好消息是，如今，特斯拉通過算法優(yōu)化，已經(jīng)解決的智能剎車的問題。但在我們通向“真·自動(dòng)駕駛”的路上，還有更多的奇特案例等待解決——公路交通，本就是我們創(chuàng)造出的最復(fù)雜系統(tǒng)之一。

參考文獻(xiàn)

[1] Duan R, Mao X, Qin A K, et al. Adversarial laser beam: Effective physical-world attack to dnns in a blink[C]//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2021: 16062-16071.

[2]http://jst.tsinghuajournals.com/CN/rhhtml/20180417.htm#outline_anchor_8

[3]https://new.qq.com/rain/a/20220818A00WJL00

[4]https://www.youtube.com/watch?v=PRg5RNU_JLk

[5]https://equalocean.com/analysis/2022091918917 [6]https://thedriven.io/2021/07/13/it-can-see-dogs-the-big-reveal-from-teslas-radar-free-version-of-full-self-driving/

[7]https://www.jianshu.com/p/5ab134804d4c

[8]https://www.theguardian.com/technology/2016/jun/30/tesla-autopilot-death-self-driving-car-elon-musk

[9]https://blog.csdn.net/maopig/article/details/107961922

作者：睿悅

閱讀原文