智能駕駛該考慮“防沉迷”了？

剛好十年前的2013年7月6日，一架韓亞航空波音777客機在抵達(dá)舊金山機場降落時發(fā)生事故，機尾提前觸地并解體脫落，造成3名中國乘客不幸遇難。

777一直是安全紀(jì)錄較好的機型之一，這起韓亞航空214號航班空難，也確實與波音沒太大關(guān)系，而主要歸咎于機組的操作不當(dāng)。

空難調(diào)查結(jié)果令人震驚，盡管機長有著近1萬小時的飛行經(jīng)驗，但手動駕駛飛機著陸的次數(shù)卻屈指可數(shù)。韓亞航空甚至有規(guī)定鼓勵飛行員盡可能使用自動系統(tǒng)，而很少訓(xùn)練手動降落。

“如果把他的飛行總時長減去自動駕駛的時間，剩下的手動飛行經(jīng)驗可能只有幾百個小時。”

現(xiàn)代航空早已擁有了全自動化的降落指引系統(tǒng)，機場設(shè)備發(fā)出信號，引導(dǎo)飛機全自動下降并著陸。然而在空難發(fā)生時，舊金山機場的自動降落指引系統(tǒng)剛好處于暫時停用的狀態(tài)。

于是韓亞214航班必須自主降落。由于缺乏手動駕駛經(jīng)驗，機組做出一系列混亂操作，無意之中切斷了飛機的自動油門，徹底失去了自動系統(tǒng)的保護(hù)。而當(dāng)他們意識到飛機此刻全由自己掌控時，為時已晚。

韓亞214空難是一起非常經(jīng)典的“自動化依賴”事故，它至少揭示了三個重要問題：

1.現(xiàn)代自動化技術(shù)提高了安全性，但隨著自動化程度提高、自動化系統(tǒng)增多，各個自動控制系統(tǒng)彼此之間的邏輯關(guān)系，可能會讓操作者更加難以理解記憶，難以判斷各系統(tǒng)所處的工作狀態(tài)（如是否正常）；

2.盡管概率很小，但在自動化系統(tǒng)中，一旦某些可能并不起眼的組成部分遭遇特殊狀況，操作者的手動技藝就可能會是事關(guān)生死的最后保障；

3.不同公司的自動化體系、設(shè)計理念可能存在很大差異，A公司產(chǎn)品的資深操作者切換到B公司產(chǎn)品需要重新適應(yīng)（韓亞214機長更熟悉空客的自動駕駛，但事故發(fā)生時剛轉(zhuǎn)飛波音）。

就像“AutoPilot”這個代表性的名字就來自于航空業(yè)，汽車智能輔助駕駛的發(fā)展，也可能將要面對類似的隱患。

當(dāng)極小概率走向可能

以新勢力、自主品牌為代表，智能輔助駕駛正在步入NOA領(lǐng)航輔助時代，NOA成為新的兵家必爭之地。今天這些領(lǐng)航輔助系統(tǒng)已經(jīng)從高速走向城市，從依賴高精地圖漸漸走向“無圖”。

覆蓋范圍越來越廣，人為干預(yù)的需求也在減少。各家都會著重宣傳“低接管率”，媒體實測時一定會注意并強調(diào)“XXX公里零接管”。接管率越低越安全，儼然成了默認(rèn)的共識。

當(dāng)下優(yōu)秀的NOA功能，已經(jīng)可以做到平均百公里一次級別的低接管率。在實際使用中，高速路況不乏數(shù)百公里無接管請求的情況，即便更復(fù)雜的城區(qū)幾十公里無需人為干預(yù)也已成為可能。

當(dāng)NOA覆蓋區(qū)域擴大到城區(qū)，當(dāng)現(xiàn)實中較為理想路況下的接管率可能極低，甚至還出現(xiàn)了“定制化”的通勤NOA（專門針對用戶高頻通勤路線訓(xùn)練、開通和優(yōu)化），一種概率很小但已然存在的可能性出現(xiàn)了：

假想一位剛拿到駕照的駕駛員，每天僅固定來往于一條路況簡單的NOA覆蓋路線上，他完全可以上車即開啟NOA直到抵達(dá)目的地。如果不遭遇意外，幾年如一日，理論上他完全有可能從未手動駕駛過車輛。

那么問題來了，假如上述情況成立，這位合法駕駛員究竟算是一位有著幾年駕齡的老手，還是一位早已丟失了基本駕駛技能的“紙上司機”呢？

（當(dāng)然肯定會有朋友想到，生活中也有不少拿了駕照多年不開車、早已失去駕駛能力卻具備合法駕駛員身份的人。但我們不能因為已存在的不合理，而認(rèn)為另一種不合理就是合理的，駕考一旦通過便終身有效的合理性本就存疑。）

再進(jìn)一步，就個體而言，當(dāng)這樣一位駕駛員有一天突然需要駕車前往未覆蓋區(qū)域，當(dāng)領(lǐng)航輔助行駛中某個自動駕駛的相關(guān)部件突然失效（哪怕只是按鈕掉了），當(dāng)天氣突然惡化到輔助駕駛無法繼續(xù)工作……

一旦突發(fā)意外狀況，哪怕只是簡單而本來無關(guān)痛癢的小意外，我們是否可以認(rèn)為他有能力對情況做出判斷，以及有能力安全地手動接管呢？

當(dāng)然，以上這些極端情況疊加的概率其實很小。既需要個體出行規(guī)律的特殊性（僅通勤于固定且理想的路線），需要客觀上的運氣，還需要該NOA確實足夠成熟，真實生活中很難滿足讓駕駛者長期無手動駕駛和手動接管機會的條件。

但是具體事例是否有可能、有多大可能、現(xiàn)在是否已可能發(fā)生并不重要，重要的是隨著成熟度進(jìn)步和覆蓋區(qū)擴大，城市NOA已然讓這種極端情況從“完全不可能”走向了“有極小可能，且會越來越大”。

只提供高速NOA的時代，無論接管率再低，也不可能存在駕駛員上車即開啟領(lǐng)航輔助的情況，除非他一輩子活在高速里。

但當(dāng)覆蓋到城市，即便只覆蓋了部分城區(qū)，也讓“始終僅活動于覆蓋范圍內(nèi)”的極端個例有了可能性。隨著城區(qū)NOA范圍擴大，通勤NOA的出現(xiàn)，這種極端或者說理想情況將越來越成為現(xiàn)實可能。

絕大多數(shù)或者說幾乎所有道路環(huán)境，都不大可能始終如一地給輔助駕駛一個干凈、簡單、無意外的理想環(huán)境。但如果有極少數(shù)個體，永遠(yuǎn)只在理想交通環(huán)境出行，避開了所有corner case，這并非不可想象。

當(dāng)下潛在的具體危險也許還很小，但站在現(xiàn)在設(shè)想未來，作為一個可能的方向，隨著NOA覆蓋越來越大、接管率越來越低，今天看來條件苛刻的極小概率事件，將會越來越不再是極小概率。

除了“多年零接管、從未手動駕駛”這種憑空設(shè)想出的極端絕對案例之外（盡管理論上已經(jīng)可能），用相對的眼光看問題，隨著自動化輔助技術(shù)的發(fā)展，手動駕駛的機會大幅減少，駕駛員正確、安全接管車輛的能力將逐漸被打上一個問號。

輔助駕駛系統(tǒng)的接管率再低，只要不是真正的零接管，并非真正意義上的全自動駕駛，也終究要求駕駛者擁有手動接管即手動駕駛的能力。

駕駛者的駕駛能力，必須要能“覆蓋”輔助駕駛的能力范圍。一個從未手動行駛過高速公路的人，很難信任他在NOA以120km/h行駛遭遇意外導(dǎo)致系統(tǒng)突然失效的時候，有能力及時接管車輛確保安全。

我們都是概率盲

今天人們普遍視低接管率為貴，就評價技術(shù)成熟度當(dāng)然有一定道理，卻不等同于實際使用中“更安全”。自動化程度更高意味著技術(shù)優(yōu)越性，但個體不做任何準(zhǔn)備未必能將技術(shù)優(yōu)越性轉(zhuǎn)化為現(xiàn)實收益。

“能”的范圍擴大，當(dāng)然會帶來安全性提升的前提基礎(chǔ)；但如果“能”的范圍擴大之后，使用者開始忽視小概率的“不能”，后果也可能適得其反。

在全自動駕駛遙不可期的前提下，NOA這樣的高階輔助駕駛功能依然要求駕駛者全程準(zhǔn)備接管。于是盡管低接管率客觀上提供了更安全的基礎(chǔ)，實際中取決于使用者的認(rèn)知，卻未必能體現(xiàn)為更安全。

舉個例子就好理解，假如某NOA功能的平均接管率為每十公里一次時，駕駛員多半會全神貫注以便隨時應(yīng)對意外；而當(dāng)平均接管率達(dá)到每百公里一次時，駕駛者還會時刻保持警惕嗎？每五百公里一次時呢？

即便平均接管率低至每千公里一次，假如這一次發(fā)生時駕駛者未做好接管準(zhǔn)備，其危險程度也并不會因為接管率低而打個折扣。

必須指出，所謂平均接管率并不等于“大致每xx公里就會出現(xiàn)一次接管請求”，平均≠均等。NOA請求人工接管是一種隨機事件，路面發(fā)生超出NOA能力的極端情況更是隨機事件，并無任何規(guī)律可言。

只有當(dāng)樣本數(shù)量無限大的時候，只有當(dāng)行駛里程無窮多的時候，才可以認(rèn)為每一時刻需要接管的概率是相等的——這顯然不可能。所以平均接管率“xx公里”只是一個事后總結(jié)的數(shù)據(jù)，與實際使用無關(guān)。

平均接管率每百公里一次的系統(tǒng)，可能行駛幾百公里也無需人為接管，也可能下一秒種就發(fā)出警報。這既取決于路況的客觀差異，也可能受意外狀況干擾，完全不可預(yù)測。

于是可以想象一種反直覺的現(xiàn)象：接管率低、高度成熟的NOA，對安全性的影響可能是提高，但同時也可能是降低。因為更成熟的自動化系統(tǒng)在提高客觀安全性的同時，也給了人們主觀安全意識降低的機會。

今天，各家NOA突然“掉線”、做出危險動作的案例，網(wǎng)絡(luò)上已不鮮見。如果說在NOA還不算可靠，駕駛者還保有一定警惕性的今天，未能及時接管的風(fēng)險已然存在，那么當(dāng)NOA更加成熟、接管頻率更低，是否會有更多駕駛者對它過度信任呢？

只要NOA一天沒有進(jìn)化和被認(rèn)定為全自動駕駛系統(tǒng)，手動干預(yù)接管的頻率再低，其可能性也不能被個體忽略：當(dāng)后果過于嚴(yán)重，即便群體概率只有萬分之一，一旦落在個體身上卻會成為100%。

“人類從來不是擅長概率的動物”，在流行敘事中人們往往將“風(fēng)險”理解成“危險”，而實際上風(fēng)險更準(zhǔn)確的定義是“未知、不可預(yù)測”，可預(yù)知的危險往往便不是風(fēng)險。

即便風(fēng)險極小，但若其后果嚴(yán)重到令人無法承受，那么這一丁點風(fēng)險也必須加倍重視。低接管率的宣傳很容易讓人們將目光放在“風(fēng)險概率極小”，而忽視掉其后果的嚴(yán)重程度是否有所減輕（并沒有）。

所以我們可以理解，哪怕NOA進(jìn)化到平均接管率低至千公里、萬公里一次，車企們也依舊不會僅僅因此便將其稱為自動駕駛系統(tǒng)。否則哪怕只發(fā)生一次惡性事故，其后果也足以毀掉任何一家車企。

而今天已經(jīng)打出L3招牌的車企，比如奔馳對于自家L3系統(tǒng)的使用范圍限定和權(quán)責(zé)劃分極為明確和決絕。人家并非不知道國內(nèi)NOA有多大本事、群眾喜聞樂見什么，但L3終究是需要車企擔(dān)責(zé)，誰疼誰自己會知道。

首先只在部分高速路段且限定車速（目前60km/h以下），即便真的出現(xiàn)事故也很難超過其車輛被動安全的承受能力范圍，進(jìn)而造成人員傷亡，能用錢解決的都不是問題。

其次進(jìn)入L3之后，駕駛者無法發(fā)出任何駕駛指令，與輔助駕駛體系完全隔絕，保證不會出現(xiàn)駕駛者錯誤干預(yù)影響安全，于是人車責(zé)任模糊不清難以劃分的情況。

領(lǐng)航輔助的應(yīng)用和成熟，一方面——在做好了風(fēng)險提示和使用規(guī)范的前提下——當(dāng)然有效提升了駕駛舒適性和安全性；另一方面，隨著覆蓋范圍的擴大、接管請求的減少，讓很多過去絕無可能的小概率情況有了可能性。

在過去，任何一位駕駛員只需適度的自主駕駛，便可以保持基本駕駛技能不丟失。而未來更精進(jìn)、更成熟、能力更強的NOA，可能會讓駕駛者在不知不覺中丟失或顯著降低其手動駕駛與處理突發(fā)意外的能力。

那么對于那些NOA確實極為優(yōu)秀的車企，或許應(yīng)該考慮一定的“反沉迷”措施：如果能確認(rèn)駕駛員已連續(xù)使用輔助駕駛很長時間（比如上萬公里）且一直未出現(xiàn)手動接管的極端情況下，強制該駕駛員必須手動駕駛一定時間/里程。

當(dāng)然，這并不是一個有關(guān)具體細(xì)節(jié)的建議。一方面眼下討論實現(xiàn)細(xì)節(jié)也許還為時尚早，另一方面也存在著許多現(xiàn)實問題，像是如何區(qū)分不同駕駛員是否涉及隱私問題、如何得知駕駛者是否曾駕駛其他車輛等等。

完美防止任何一位駕駛者因智能輔助駕駛系統(tǒng)越來越低的接管率而“忘記”如何手動駕駛車輛，也許現(xiàn)在看來既有點杞人憂天，也存在很多操作細(xì)節(jié)上的難題，但我們至少可以肯定這個方向并強化認(rèn)知：

在真正實現(xiàn)全自動駕駛之前，不應(yīng)坐視任何智能輔助駕駛削弱人類駕駛者手動接管能力的可能性不管。自動系統(tǒng)在帶來安全的同時，也可能因過度依賴而帶來新的危險，這種隱患伴隨人類已久，需要被注意到