自動(dòng)駕駛汽車真的會(huì)更安全嗎？

自動(dòng)駕駛汽車是人工智能技術(shù)最令人興奮和最具影響力的應(yīng)用場景之一。

僅在美國，每年就有超過 35，000 人死于車禍。由于自動(dòng)駕駛汽車?yán)碚撋峡梢员热祟愃緳C(jī)更快做出反應(yīng)，并且不會(huì)醉酒駕駛、不會(huì)邊開車邊發(fā)短信或感到疲倦，所以它們應(yīng)該能夠顯著提高車輛安全性。這種技術(shù)還承諾讓老年人和其他不能輕松駕車的人們更加獨(dú)立，出行更方便。

在過去三年中，自動(dòng)駕駛汽車行業(yè)獲得的投資超過 2500 億美元。

下面列舉了行業(yè)中各個(gè)自動(dòng)駕駛車輛類型領(lǐng)域中的典型企業(yè)：

送貨機(jī)器人：Gofurther.ai、Idriverplus、Kiwibot、Neolix、Nuro、Refraction.ai、Scout（亞馬遜）、Serve Robotics、Starship Technologies、Unity Drive、Yours Technology。

穿梭巴士和公交車：Auto（Ridecell）、百度、Beep、Coast Autonomous、e.Go、EasyMile、Local Motors、Milla Pod、May Mobility、Navya（軟銀）、Ohmio、Optimus Ride、Sensible4、TransDev、Venti Technologies、Voyage（Cruise）、宇通。

出租車：Argo、Aurora、AutoX、百度阿波羅、Cruise、滴滴出行、東風(fēng)、現(xiàn)代、Motional、小馬智行、Waymo、文遠(yuǎn)知行、Zoox（亞馬遜）。

卡車：Aurora、戴姆勒、Einride、Embark、Gatik、Ike（Nuro）、Inceptio、Kodiak Robotics、Locomation、Plus.ai、小馬智行、沃爾沃、特斯拉、TuSimple、Udelv、UPS、Waymo、Zipline。

消費(fèi)級(jí)車輛：蘋果、Aurora、百度、寶馬、Cruise、戴姆勒、福特、本田、華為、現(xiàn)代、起亞、馬自達(dá)、日產(chǎn)、標(biāo)致、上汽、斯巴魯、Tata Elxsi、特斯拉、騰訊、豐田、大眾、沃爾沃。

但自動(dòng)駕駛汽車真的會(huì)更安全嗎？

汽車行業(yè)面對(duì)的最大挑戰(zhàn)主要是邊緣情況引發(fā)的意外狀況。事實(shí)上有兩個(gè)新的汽車安全標(biāo)準(zhǔn)，ISO 26262 和 UL 4600，就試圖解決這些邊緣情況。

然而這些標(biāo)準(zhǔn)不是強(qiáng)制性的，監(jiān)管機(jī)構(gòu)不要求自動(dòng)駕駛汽車遵守這些或其他任何自動(dòng)駕駛行業(yè)專屬標(biāo)準(zhǔn)。更糟糕的是，正如我將在下面解釋的那樣，有充分的理由相信某些類型的自動(dòng)駕駛汽車可能無法處理這些邊緣情況。

自動(dòng)化水平

首先，我們來定義“自動(dòng)駕駛”的含義。汽車工程師協(xié)會(huì)定義了自動(dòng)駕駛技術(shù)的六個(gè)級(jí)別，如下所示：

L0：人類司機(jī)掌控所有駕駛功能

L1：某種程度的駕駛輔助（可以是自適應(yīng)巡航或路線保持 / 居中）

L2 ：部分自動(dòng)駕駛（同時(shí)具備自適應(yīng)巡航和路線居中），但司機(jī)必須保持控制狀態(tài)（手放在方向盤上，雙眼注視路線，或者兩者皆有）

L3：有條件的自動(dòng)駕駛（特定條件下司機(jī)可以雙手離開方向盤做自己的事情，但收到車輛提示時(shí)必須介入控制）

L4：高度自動(dòng)駕駛（在特定場景下，如指定城市街道和 / 或校園道路上，司機(jī)不需要介入控制）

L5：完全自動(dòng)駕駛（不需要人類介入控制）

L3-5 被視為自動(dòng)駕駛系統(tǒng)（ADS），其中司機(jī)無需注意道路。在第 3 級(jí)別，司機(jī)可以看書或看電影，但如果車輛要求，司機(jī)必須能夠在 10-60 秒內(nèi)接管車輛操控。3 級(jí)車輛的一個(gè)大問題是，在司機(jī)接管的 10 秒過渡期內(nèi)可能會(huì)發(fā)生碰撞，因此 3 級(jí)車輛可能需要包含一個(gè) ODD，不會(huì)因?yàn)?10 秒交接而出事故（例如低速公路交通擁堵場景）。

第 4 級(jí)和第 5 級(jí)之間的區(qū)別在于，第 4 級(jí)車輛僅限在操作設(shè)計(jì)域（ODD）開啟自動(dòng)駕駛模式，這個(gè) ODD 通常包括受限制的地理區(qū)域（例如城市中的一組指定街道），并且可能包括基于天氣、當(dāng)日時(shí)間、降水、道路坡度和曲率等因素的限制。5 級(jí)車輛可以不受限制地在任何地域行駛，理論上是消費(fèi)級(jí)車輛和商用卡車的有效替代品。

當(dāng)今道路上的許多消費(fèi)級(jí)車輛，例如特斯拉，都具有駕駛輔助功能。它們可以讓車輛保持在車道中央，并且可以自動(dòng)加速和制動(dòng)。然而，司機(jī)駕駛這些車輛時(shí)看書或看電影是不安全的。司機(jī)必須不斷監(jiān)控道路并準(zhǔn)備好隨時(shí)接管控制。這些都是 2 級(jí)車輛，不被視為 ADS。司機(jī)必須注意道路并準(zhǔn)備好立即接管。

例如，上周我在紐約高速公路上以自動(dòng)駕駛模式駕駛時(shí)，我的特斯拉時(shí)遇到了一個(gè)大顛簸。我的特斯拉突然轉(zhuǎn)向并發(fā)出“叮叮咚”的聲音，意思是“Steve，你靠你自己了”，我不得不迅速做出反應(yīng)，把它開回我的車道。

這些 2 級(jí)車輛的一個(gè)問題是，諸如“全自動(dòng)駕駛”之類的營銷術(shù)語可能會(huì)誘使司機(jī)采取危險(xiǎn)的行動(dòng)，例如在 2021 年 4 月的一起特斯拉車禍中，駕駛座上連人都沒有。

重大問題：邊緣情況

人們?cè)隈{駛汽車時(shí)使用常識(shí)推理來處理各種意外情況：一頭鹿飛奔到高速公路上；洪水讓道路難以通行或無法通行；汽車在打滑，試圖爬上結(jié)冰的山丘。

人們不會(huì)在駕駛學(xué)校了解所有這些可能出現(xiàn)的邊緣情況。相反，我們使用日常常識(shí)推理技能來預(yù)測行動(dòng)和結(jié)果。如果我們看到一個(gè)球滾到街上，我們就知道該注意追球的孩子。當(dāng)我們看到前面的汽車突然轉(zhuǎn)彎時(shí)，我們就會(huì)改變駕駛行為，因?yàn)槲覀冎浪緳C(jī)可能喝醉了或是在發(fā)短信。

不幸的是，沒有人知道如何將人類的常識(shí)推理能力構(gòu)建到汽車或通用計(jì)算機(jī)中。為了代替常識(shí)推理能力，ADS 開發(fā)人員必須預(yù)測每種可能的情況并對(duì)其編程。機(jī)器學(xué)習(xí)只能幫助制造商預(yù)測每種情況并提供每種可能情況的訓(xùn)練示例。

更糟糕的是，這些邊緣情況的數(shù)量有數(shù)百萬甚至數(shù)十億個(gè)。每個(gè)人都至少遇到過一次不尋常的駕駛經(jīng)歷。世界上有 14 億司機(jī)。如果有 14 億個(gè)這樣的邊緣情況，它們?cè)趺纯赡苋勘蛔R(shí)別出來呢？更不要說都得到對(duì)應(yīng)的編程了？

如果 ADS 不能使用常識(shí)推理能力來處理所有這些邊緣情況，它們真的比人類司機(jī)更安全嗎？

常識(shí)推理的重要性是與 ODD 相關(guān)的

4 級(jí)車輛僅限于特定的 ODD 才能啟用自動(dòng)駕駛。與沒有 ODD 的 5 級(jí)車輛相比，這往往會(huì)顯著減少邊緣情況的數(shù)量。例如，我們已經(jīng)在企業(yè)園區(qū)內(nèi)看到了行駛速度非常緩慢的 4 級(jí)點(diǎn)對(duì)點(diǎn)班車。

這些車輛不太可能遇到很多邊緣情況，因?yàn)樵趦蓚€(gè)地點(diǎn)之間的一條道路上不會(huì)發(fā)生很多意外狀況。就算發(fā)生了什么事，穿梭巴士的行駛速度也非常緩慢，乘客或行人幾乎沒有風(fēng)險(xiǎn)可言。

ODD 限于特定城市街道的 4 級(jí)自動(dòng)駕駛出租車將遇到比公司班車更多的邊緣情況，但可能遠(yuǎn)不及消費(fèi)級(jí)車輛可能遇到的邊緣情況數(shù)量。將駕駛領(lǐng)域限制在特定街道上后，人們就可以維護(hù)非常詳細(xì)的地圖（包含交通燈和施工區(qū)域的豐富細(xì)節(jié)）。

相比之下，5 級(jí)車輛必須能在全球所有街道上行駛—或者至少是消費(fèi)者所在的國家 / 地區(qū)的所有街道上自動(dòng)行駛。華盛頓郵報(bào)統(tǒng)計(jì)，僅在美國就有超過 100 萬條道路。

這就是為什么有這么多 ADS 開發(fā)人員在鳳凰城、舊金山和其他許多城市測試自動(dòng)駕駛出租車的原因。大多數(shù)測試都是由安全司機(jī)監(jiān)控的，他們隨時(shí)準(zhǔn)備在危險(xiǎn)情況下立即接管車輛。但是，只有少數(shù)無人駕駛測試是在限制性 ODD 條件下進(jìn)行的。自動(dòng)駕駛汽車不像人那樣“看世界”ADS 的另一個(gè)問題是計(jì)算機(jī)視覺系統(tǒng)很容易出錯(cuò)，因?yàn)樗鼈兛赡軙?huì)被一些人類能正常識(shí)別的情況愚弄。

例如，研究人員證明，限速標(biāo)志的微小變化可能會(huì)讓機(jī)器學(xué)習(xí)系統(tǒng)認(rèn)為該標(biāo)志顯示的是 85 英里 / 小時(shí)而不是 35 英里 / 小時(shí)。類似地，一些黑客使用鮮艷的貼紙制造出假車道，欺騙特斯拉的自動(dòng)駕駛改變車道。

在這兩種情況下，這些變化都愚弄了汽車，但愚弄不了人。此外，不良行為者想要欺騙汽車或卡車駛離道路或進(jìn)入障礙物還有很多方法可用。

自動(dòng)駕駛汽車看待世界的方式與人類存在很多差異，而這些差異引發(fā)的擔(dān)憂遠(yuǎn)不止遭受黑客利用這一種。

例如，在現(xiàn)實(shí)世界中，許多特斯拉車主報(bào)告說他們的汽車經(jīng)常將陰影（例如樹枝的陰影）視為真實(shí)物體。在優(yōu)步測試車輛撞死行人的案例中，汽車的物體識(shí)別軟件首先將行人歸類為未知物體，然后歸類為車輛，最后歸類為自行車。我不知道你是怎么看的，但我覺得馬路上不管是行人、司機(jī)還是車輛，無法 100% 準(zhǔn)確識(shí)別行人和其他物體都是很可怕的事情。

為什么測試很重要

我們有很多充分的理由相信 ADS 將比人類司機(jī)更安全，我們也有很多充分的理由擔(dān)心 ADS 不會(huì)像人類司機(jī)一樣安全。

從監(jiān)管的角度來看，僅僅考慮正面理由就讓 ADS 開發(fā)人員全權(quán)決定是否讓 ADS 上路，而無需證明它們比人類司機(jī)更安全是愚蠢的做法。但這正是監(jiān)管機(jī)構(gòu)正在做的事情。

美國國家公路和運(yùn)輸安全局（NHTSA）的立場是：

自動(dòng)駕駛汽車的安全優(yōu)勢非常關(guān)鍵。自動(dòng)駕駛汽車挽救生命和減少傷害的潛力源于一個(gè)關(guān)鍵而悲慘的事實(shí)：94% 的嚴(yán)重碰撞事故是由人為錯(cuò)誤造成的。自動(dòng)駕駛汽車有可能從碰撞方程中消除人為錯(cuò)誤，這將有助于保護(hù)司機(jī)和乘客，以及騎自行車的人和行人。當(dāng)你考慮到美國每年有超過 35，000 人死于與機(jī)動(dòng)車相關(guān)的事故時(shí)，你就會(huì)開始了解駕駛輔助技術(shù)可以幫助挽救多少生命。

NHTSA 于 2020 年 12 月發(fā)布了 ADS 安全擬議框架，該框架受到美國國家運(yùn)輸安全委員會(huì)（NTSB）的批評(píng)，理由是“……缺乏強(qiáng)制提交安全自我評(píng)估報(bào)告的要求，并且缺乏讓 NHTSA 來評(píng)估報(bào)告是否充分的流程。”

NTSB 還指出，由于缺乏聯(lián)邦法規(guī)，個(gè)別州正在制定自己的法規(guī)。例如，亞利桑那州的限制最少，NTSB 稱這至少對(duì) 2018 年 Uber ADS 造成的行人死亡負(fù)有部分責(zé)任。

佛羅里達(dá)州法規(guī) 316.85 特別允許自動(dòng)駕駛汽車的運(yùn)營，并明確規(guī)定駕駛者在自動(dòng)駕駛汽車中無需注意道路情況（例如，司機(jī)可以看電影）。它還明確允許自動(dòng)駕駛車輛無需司機(jī)參與。

法規(guī)沒有要求制造商通過安全測試，作為自動(dòng)駕駛功能的前置要求。當(dāng)汽車、卡車、公共汽車或出租車公司認(rèn)為他們準(zhǔn)備就緒時(shí)，他們就可以自由地測試和銷售自動(dòng)駕駛車輛。我在佛羅里達(dá)州有一個(gè)住處，這讓我感到害怕。其他不少州也鼓勵(lì)推出無需前置安全標(biāo)準(zhǔn)的自動(dòng)駕駛汽車。

ADS 的安全標(biāo)準(zhǔn)

自動(dòng)駕駛汽車需要進(jìn)行三種截然不同的安全測試。

第一項(xiàng)測試是確保將信息提供給 AV 決策機(jī)制的所有組件都正常工作。一年前在臺(tái)灣，一輛處于自動(dòng)駕駛模式的特斯拉 Model 3 以 70 英里 / 小時(shí)的速度撞上一輛翻倒的拖拉機(jī)拖車。據(jù)報(bào)道，事故是由汽車前向傳感器陣列中的軟件故障引起的，這導(dǎo)致自動(dòng)制動(dòng)無法正常工作。傳感器的測試應(yīng)該足以防止這種類型的故障。

Waymo（谷歌）報(bào)告說，它將每個(gè)攝像頭放入汽車之前都會(huì)對(duì)其進(jìn)行測試，然后在汽車集成后再測試一次，最后，它會(huì)測試與攝像頭相關(guān)的各種能力，例如檢測行人的能力。

ISO 26262 標(biāo)準(zhǔn)已被汽車行業(yè)廣泛采用，用于測試軟件錯(cuò)誤和硬件故障。它確保傳感器和其他組件按設(shè)計(jì)工作。

第二種類型的安全測試是為了證明車輛可以處理預(yù)期遇到的真實(shí)場景類型。2016 年，NHTSA 概述了 36 種應(yīng)該進(jìn)行測試的場景，但指出這不是一個(gè)完整的清單。

示例場景包括：

檢測并響應(yīng)速度限制變化和速度建議

執(zhí)行高速并線（例如，高速公路）

執(zhí)行低速并線

Waymo 在駕駛模擬器和加利福尼亞州一個(gè) 113 英畝設(shè)施的封閉課程中測試這些場景和其他場景，然后在真實(shí)街道上配備安全司機(jī)進(jìn)行測試。

測試邊緣情況

應(yīng)該進(jìn)行的第三類安全測試，是分析系統(tǒng)在遇到未經(jīng)過訓(xùn)練或編程的意外情況時(shí)是否能夠安全響應(yīng)。

行業(yè)已開發(fā)出兩種標(biāo)準(zhǔn)來支持此類安全測試：ISO 21448，也稱為預(yù)期功能安全性（SOTIF），專為 1 級(jí)和 2 級(jí)車輛設(shè)計(jì)，但也可用于 ADS；UL 4600 則專為 ADS 設(shè)計(jì)。這些標(biāo)準(zhǔn)要求開發(fā)人員列出和測試已知的邊緣情況。但是，這兩個(gè)標(biāo)準(zhǔn)都不能確定 ADS 的安全級(jí)別，因?yàn)樗鼈儾粶y試未知的邊緣情況。

那么，你如何測試未知的邊緣情況呢？ 一種方法是使用脫離接觸數(shù)據(jù)。在加利福尼亞州，許多制造商正在舊金山等城市測試自動(dòng)駕駛出租車。這些車輛以 4 級(jí)模式運(yùn)行，ODD 僅限于特定的城市街道，但也配備一名高度警惕的安全司機(jī)準(zhǔn)備好立即接管，就好像它是 2 級(jí)車輛一樣。當(dāng)車輛出現(xiàn)問題時(shí)，安全司機(jī)會(huì)接管。這被稱為脫離接觸。

我們知道人類在兩次事故之間平均會(huì)行駛多少英里。如果假設(shè)每次脫離都會(huì)導(dǎo)致事故，那么脫離率就可以與人類（或更具體地說是出租車司機(jī)）的事故率進(jìn)行比較。不幸的是，估計(jì)自動(dòng)駕駛汽車要證明安全性所需要行駛的里程數(shù)并不是那么簡單。

蘭德公司在 2016 年估計(jì)，這將需要數(shù)億英里的自動(dòng)駕駛里程，這是不切實(shí)際的。但從那以后，僅 Waymo 就已經(jīng)記錄了超過 2000 萬英里的自動(dòng)駕駛測試?yán)锍獭?/p>

另一個(gè)問題是我們沒有 針對(duì)特定 ODD 的人類司機(jī)事故的統(tǒng)計(jì)數(shù)據(jù)。 但是，我們至少可以將特定 ODD 的 ADS 事故率與人類司機(jī)總體事故率進(jìn)行比較。鑒于 90% 的人類司機(jī)車禍?zhǔn)怯扇藶殄e(cuò)誤造成的，即使我們用的是精細(xì)的 ODD 統(tǒng)計(jì)數(shù)據(jù)，也可能不會(huì)與總體事故率有很大偏差，因?yàn)榇蠖鄶?shù)事故都是人為錯(cuò)誤造成的。

最后一個(gè)問題是，在 ADS 測試期間發(fā)生的許多脫離不會(huì)導(dǎo)致事故。很多脫離的發(fā)生是出于良性原因，例如需要在不屬于 ODD 的街道上行駛。盡管如此，ADS 測試過程可以得到加強(qiáng)，以便進(jìn)行某種程度的比較。

例如，Aurora 安全司機(jī)會(huì)記錄他們?yōu)榱朔乐故鹿识撾x的次數(shù)。類似地，Argo 記錄脫離事件的傳感器數(shù)據(jù)，讓分析人員可以使用它來審查脫離事件。Waymo 使用脫離傳感器數(shù)據(jù)在模擬中重新創(chuàng)建脫離條件，從而確定如果安全司機(jī)沒有脫離，車輛是否會(huì)發(fā)生碰撞。

Aurora、Argo 和 Waymo 等公司正在測試 4 級(jí)車輛—主要是自動(dòng)駕駛出租車。對(duì)于 5 級(jí)消費(fèi)車輛而言分析脫離數(shù)據(jù)更加困難，因?yàn)榄h(huán)境種類繁多，這些車輛很難配備安全司機(jī)進(jìn)行測試。然而，當(dāng)使用的是 2 級(jí) ADS 時(shí)，消費(fèi)級(jí)車輛實(shí)際上是有安全司機(jī)的，安全司機(jī)就是消費(fèi)者。

事實(shí)上，一些消費(fèi)級(jí)車輛記錄了不少脫離。例如，當(dāng)特斯拉在自動(dòng)駕駛模式下被人類司機(jī)接管控制時(shí)，這將被記錄為脫離并報(bào)告給特斯拉總部。但據(jù)我所知，特斯拉不會(huì)與監(jiān)管機(jī)構(gòu)共享這些數(shù)據(jù)。盡管如此，消費(fèi)級(jí)汽車制造商仍可以讓負(fù)責(zé)記錄脫離原因的安全司機(jī)測試他們的車輛，并且監(jiān)管機(jī)構(gòu)可能會(huì)要求 ADS 開發(fā)商共享這些數(shù)據(jù)。

自動(dòng)駕駛系統(tǒng)（ADS）旨在驅(qū)動(dòng)汽車、出租車、公共汽車或其他車輛，而人類可以在車上做其他事情（例如讀書）。3 級(jí)和 4 級(jí) ADS 的操作設(shè)計(jì)域（ODD）有限制，其中可能包括受限制的地理區(qū)域和基于天氣、時(shí)間、降水、道路坡度和曲率以及其他因素的限制。5 級(jí)車輛可以在任何地方運(yùn)行，并且沒有 ODD。

有充分的理由假設(shè) ADS 將比人類司機(jī)更安全。畢竟它們從不疲倦，不會(huì)在開車時(shí)發(fā)短信，或酒后駕車。

同樣有充分的理由假設(shè)它們不會(huì)更安全。沒有人知道如何將常識(shí)構(gòu)建到計(jì)算機(jī)中。但是，ADS 需要常識(shí)推理來處理它可能遇到的所有意外情況（邊緣情況）。在沒有常識(shí)推理能力的情況下，ADS 只能處理已明確編碼到 ADS 軟件中的邊緣情況，或 ADS 已被訓(xùn)練處理的邊緣情況。當(dāng)遇到 ADS 工程師未預(yù)料到的邊緣情況時(shí)，可能會(huì)發(fā)生事故和交通擁堵。

現(xiàn)實(shí)情況是，ADS 可能對(duì)某些 ODD 是安全的（例如以 5 英里 / 小時(shí)的速度在一條街道上來回穿梭的公司班車），但對(duì)于其他 ODD（例如覆蓋廣泛地理和所有天氣條件的出租車服務(wù)）可能就不夠安全，或者無法實(shí)現(xiàn) 5 級(jí)自動(dòng)駕駛了。

美國和世界各地的監(jiān)管機(jī)構(gòu)都在急于將 ADS 技術(shù)推向市場，因?yàn)樗哂薪档褪鹿事屎透纳评夏耆撕蜌埣踩说某鲂心芰Φ葷撛诤锰?。例如，美國國家公路和運(yùn)輸安全局（NHTSA））表示，它認(rèn)為對(duì) ADS 能力的測試不是必需的。某些 ADS 將被證明對(duì)特定 ODD 是安全的。一些 ADS 可能會(huì)被證明對(duì)其他 ODD 和 / 或 5 級(jí)駕駛是不夠安全的。

在允許 ADS 進(jìn)入公共道路之前，難道不應(yīng)該要求 ADS 開發(fā)人員證明 ADS 至少與特定 ODD 的人類司機(jī)一樣安全嗎？缺乏監(jiān)管有可能將我們的道路變成一場具有災(zāi)難性后果的大規(guī)模試驗(yàn)。