“阿西莫夫三定律”：無人駕駛汽車責(zé)任敏感安全模型

不知從何時，人們把拷問了無數(shù)人良心的“電車難題”交給了無人駕駛汽車。于是乎在各種行業(yè)論壇和發(fā)布會上，我們都能看到不少人面對企業(yè)和專家提出了特殊情景下“該撞誰”的問題。

從表面上看，這似乎是廣大人民群眾在“杞人憂天”，但其背后深層次原因卻不容忽視：一方面，普遍認同自動駕駛技術(shù)的價值和其終將替代人類司機的發(fā)展趨勢。但另一方面，由于信息不對稱問題的廣泛存在，大家對新技術(shù)基本不了解，更談不上信任。

而作為社會交通的廣泛參與者，自動駕駛汽車一定，也是必須要獲得人們的信任。因此，這項新技術(shù)在決策和執(zhí)行環(huán)節(jié)的相對透明化，也必須提上日程。實際上，很多企業(yè)正在這方面進行努力和探索。

日前，億歐汽車對英特爾無人駕駛解決方案資深首席工程師、首席系統(tǒng)架構(gòu)師，Jack Weast進行了采訪交流。在長達一個小時的對話中，他為包括億歐汽車在內(nèi)的多家媒體闡述的英特爾旗下的自動駕駛技術(shù)公司Mobileye，在日前推出的責(zé)任敏感安全模型——RSS（Responsibility Sensitive Safety），以及該模型的運行模式。在交流中，Jack Weast將RSS定義為給自動駕駛汽車的“阿西莫夫三定律”。在可預(yù)見的未來，類似這樣的安全模型將在自動駕駛汽車的研發(fā)與推廣中扮演重要作用。

“電車難題”本身不應(yīng)該提給自動駕駛汽車

在詳細闡述RSS之前，讓我們先說回到“電車難題”。這一倫理學(xué)問題是由哲學(xué)家菲利帕·福特（Philippa Foot）于1967年發(fā)表的《墮胎問題和教條雙重影響》論文中提出來的，起初用于功利主義。后者提出的觀點是，大部分道德決策都是根據(jù)“為最多的人提供最大的利益”的原則做出的，即“人的生命價值，無法簡單用數(shù)量來衡量”。也就是說，這個問題從始至終，就建立在假設(shè)的基礎(chǔ)上。實際上，除非鐵軌上的人下定決心要自殺，否則不會有人看到電車駛來而不躲避。

?

（如今的電車難題已經(jīng)產(chǎn)生了無數(shù)個變種，但底層還是類似的邏輯）

在這個難題提出超過50年以來，全世界人民被這個問題折磨已久。因此擁有人工智能的自動駕駛技術(shù)走入現(xiàn)實后，大家也把這個問題拿來考驗新技術(shù)。但是，用一個哲學(xué)范疇內(nèi)的題目來考現(xiàn)實世界中的自動駕駛汽車，顯然不具備實際價值。

如果說這個難題在自動駕駛技術(shù)的研發(fā)中有一丁點價值的話，那便是：

自動駕駛技術(shù)應(yīng)當為自身建立合理的大前提，以便最大程度上避免進入兩難選擇的尷尬局面。

大前提：自動駕駛汽車不會萬無一失，但也不會導(dǎo)致事故

當人們談到自動駕駛汽車的優(yōu)點時，“安全”肯定被列在第一的位置。但是，只要道路中有除了人工智能外的其他交通參與者，那么100％的安全就不可能存在。但究竟自動駕駛汽車的“安全”應(yīng)該達到一個怎樣的水平，外界并沒有一個清晰地定義。

對此，RSS為自動駕駛汽車的安全給出了兩個明確目標：

1、自動駕駛汽車只可能被卷入事故，而不會成為事故的責(zé)任方；2、自動駕駛汽車面對事故要有正確應(yīng)對。

根據(jù)統(tǒng)計數(shù)據(jù)，當前人類駕駛汽車造成傷亡事故的發(fā)生率是10＾－6次／小時。而如果想讓社會廣泛接受新技術(shù)，自動駕駛汽車的事故發(fā)生率降低三個數(shù)量級到10＾－6次／小時是較為合理的。但如果通過路測來實現(xiàn)這一點，自動駕駛系統(tǒng)需要積累超過30億英里的測試數(shù)據(jù)。同時，一旦軟件升級，那么相應(yīng)的測試就很可能需要重新再來一遍。而如果簡單地依靠堆疊傳感器和超級計算機，那么自動駕駛汽車永遠只能因為成本高企而無法實現(xiàn)量產(chǎn)。

因此，自動駕駛汽車需要從底層的規(guī)劃環(huán)節(jié)，避免成為事故的責(zé)任方。而在面對事故時，自動駕駛汽車也要給予正確的應(yīng)對。

4個常識，不讓自動駕駛汽車成為事故責(zé)任方

在具體的執(zhí)行層面，RSS定義了4個“常識”，讓自動駕駛汽車避免成為交通事故中的責(zé)任方。事實上，這些常識已經(jīng)覆蓋了絕大多數(shù)的道路事故場景：

追尾不是前車的責(zé)任，后車需要保持安全車距；因突然并線而導(dǎo)致的追尾，責(zé)任在前車；不能因為自動駕駛車的“路權(quán)”高，就不采取制動措施，要盡量避免事故發(fā)生；注意道路盲區(qū)，避免因被其他車遮擋造成事故。

與此同時RSS還規(guī)定，自動駕駛汽車面對突發(fā)情況的反應(yīng)模式應(yīng)當與人類一致。同時，車輛也不能遇見情況就頻繁停車，還要保證道路的通行效率。

對于這四點常識，Mobileye在RSS中進行了詳細界定。首先，研發(fā)人員提出了最小安全距離計算公式。這其中的參數(shù)和常數(shù)也需要根據(jù)路況、天氣、駕駛環(huán)境等因素的不同進行動態(tài)調(diào)整。實際上這次英特爾與清華大學(xué)和中科院開展合作，就是為了根據(jù)中國道路環(huán)境的特殊性，確定自動駕駛汽車在中國行駛時需要采用的參數(shù)和常量。

（參數(shù)：Vf前車速度，Vr后車速度，反應(yīng)時間ρ、最小剎車加速度αmin，brake、最大剎車加速度αmax，brake以及最大加速度αmax，accel）

其次，界定路權(quán)高低問題。簡單來說，RSS對路權(quán)高低的判定與我們?nèi)祟愒隈{校中學(xué)到的內(nèi)容類似，即“后車讓前車”、“輔路讓主路”、“轉(zhuǎn)彎讓直行”、“并線讓后車”。但是，RSS還強調(diào)自動駕駛汽車不應(yīng)當只是刻板地遵守路權(quán)，還應(yīng)當判斷其他車輛的行為，避讓侵犯其路權(quán)的交通參與者。畢竟即使能在事故中免責(zé)，但從根源上斷絕事故的發(fā)生才是王道。

最后，在面對行人和道路盲區(qū)時，RSS要求在居民區(qū)等復(fù)雜道路時行人路權(quán)高于汽車。此外在面對遮擋等場景時，RSS規(guī)定車輛的行駛速度應(yīng)當比行人更低。因而即便發(fā)生碰撞，也不會造成后者嚴重傷亡。

總結(jié)：自動駕駛汽車需要“阿西莫夫三定律”

回顧RSS模型我們可以看出，這項技術(shù)旨在解決自動駕駛汽車自身面對外界其他交通參與者的關(guān)系問題。即如何保護其他人類、車輛，以及如何保護自身。

在交流的最后，Jack Weast告訴億歐汽車，RSS責(zé)任敏感安全模型之余自動駕駛汽車，就像阿西莫夫三定律之于擁有意識的機器人，“RSS其實是為自動駕駛汽車制定的基本規(guī)則”。

當著名科幻作家艾薩克·阿西莫夫提出“機器人三定律”的時候可能不會想到，自己在書中的想法會在自動駕駛場景中優(yōu)先得到實踐。但是，只被一家企業(yè)認同的規(guī)則，頂多只是企業(yè)規(guī)范。隨著自動駕駛汽車在全球范圍內(nèi)的研發(fā)和落地，包括政府、車企、科技公司和芯片制造商的各方都需要加入到自動駕駛汽車基本規(guī)則的研發(fā)和制定當中。

畢竟，一輛量產(chǎn)車需要能在全球范圍內(nèi)行使，自動駕駛車也是一樣。