人工智能科技的發(fā)展將指引智能網(wǎng)聯(lián)汽車未來(lái)的發(fā)展方向

智能網(wǎng)聯(lián)信息安全正不斷被提上新的議程。

車聯(lián)網(wǎng)和智能網(wǎng)聯(lián)汽車是時(shí)代工業(yè)化與信息化融合的重要方向，對(duì)推動(dòng)產(chǎn)業(yè)結(jié)構(gòu)變革，促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展具有重要作用。近些年，中國(guó)智能網(wǎng)聯(lián)汽車發(fā)展迅速，已初步形成L2及以上汽車研發(fā)和測(cè)試能力。但智能網(wǎng)聯(lián)汽車作為聯(lián)網(wǎng)環(huán)境下的移動(dòng)終端，在商業(yè)落地過(guò)程中出現(xiàn)了新的問(wèn)題——安全信任危機(jī)。

工信部提出，在加快智能網(wǎng)聯(lián)汽車關(guān)鍵技術(shù)突破的同時(shí)，要著力完善安全保障。

在2020年第四屆世界智能大會(huì)-車聯(lián)網(wǎng)先導(dǎo)應(yīng)用創(chuàng)新發(fā)展國(guó)際高峰論壇上，中國(guó)科學(xué)院何積豐院士在關(guān)于《可信人工智能》的主題演講中表示，人工智能和人類社會(huì)是一種共生的關(guān)系，多個(gè)領(lǐng)域包括智能制造、智能醫(yī)療、智慧城市、智慧農(nóng)業(yè)和國(guó)防建設(shè)都與人工智能息息相關(guān)。針對(duì)于汽車領(lǐng)域，其認(rèn)為依賴于人工智能技術(shù)，人工智能科技的發(fā)展將指引智能網(wǎng)聯(lián)汽車未來(lái)的方向，但在此過(guò)程中同樣發(fā)現(xiàn)了一些造成人工智能信任危機(jī)的一些問(wèn)題。

何積豐院士認(rèn)為，目前有兩類人工智能安全問(wèn)題，并針對(duì)其提出四大對(duì)策和面向主動(dòng)防御的AI網(wǎng)絡(luò)體系，輔助人類做智能決策，達(dá)到分析問(wèn)題、建立模型、模擬決策和質(zhì)量評(píng)價(jià)的作用。

第一類是數(shù)據(jù)造成的不安全問(wèn)題，有三類比較典型的不安全的行為：

1、數(shù)據(jù)隱私，我們訓(xùn)練很多數(shù)據(jù)，這些數(shù)據(jù)暴露了一些不應(yīng)該暴露的隱私。

2、數(shù)據(jù)本身有質(zhì)量，無(wú)論是訓(xùn)練數(shù)據(jù)和現(xiàn)場(chǎng)數(shù)據(jù)都有質(zhì)量難以控制的問(wèn)題。

3、數(shù)據(jù)在成熟過(guò)程中有保護(hù)的問(wèn)題，數(shù)據(jù)采集前有風(fēng)險(xiǎn)、傳輸數(shù)據(jù)有風(fēng)險(xiǎn)、成熟使用流通也有風(fēng)險(xiǎn)。

第二類是算法安全方面的問(wèn)題，其中算法可靠性是首要問(wèn)題。

針對(duì)人工智能安全問(wèn)題，他提出四大對(duì)策。第一方面對(duì)策是可解釋性，即我們了解或者解決一件事情的時(shí)候，可以獲得我們所需要的足夠可以理解的信息。比如說(shuō)過(guò)去算法是黑盒算法，缺乏透明性、可解釋性，一旦發(fā)生問(wèn)題，難以分析和驗(yàn)證到底問(wèn)題出處。

第二方面對(duì)策是鼓勵(lì)產(chǎn)生可解釋的人工智能，主要是三方面可解釋。

1、在建模型之前進(jìn)行可解釋性分析，分析數(shù)據(jù)的屬性，知道數(shù)據(jù)怎么達(dá)到可視化。

2、在構(gòu)建模型過(guò)程中，要基于規(guī)則、基于數(shù)據(jù)特征、基于實(shí)例增加可解釋性。

3、在模型建完之后，進(jìn)行可解釋性的評(píng)估，無(wú)論是隱層分析、模擬分析、敏感性分析，都能逐步推動(dòng)。

此對(duì)策主要針對(duì)隱私保護(hù)，在功能性系統(tǒng)信任和身份數(shù)據(jù)信號(hào)的隱私方面取得平衡。

第三安全對(duì)策是公平建模，在給數(shù)據(jù)大標(biāo)簽時(shí)注意公平因素，不管性別、國(guó)籍、年齡、健康、種族，糾正行為偏差、表示偏差、理解偏差和內(nèi)容偏差，達(dá)到公平建模。

這些公平里既有統(tǒng)計(jì)意義下的公平，也有個(gè)體感覺(jué)的公平和因果公平。從數(shù)據(jù)到算法，需要注意歷史偏差、聚合偏差、時(shí)間偏差、群體偏差，通過(guò)交互排除人口偏差、排序偏差、評(píng)估偏差、隨機(jī)偏差。

第四方面人工智能安全對(duì)策可信驗(yàn)證，需要有一個(gè)在驗(yàn)證、仿真、測(cè)試三方面對(duì)人機(jī)物融合系統(tǒng)支撐的可信的驗(yàn)證引擎。

中國(guó)軟件評(píng)測(cè)中心、智能網(wǎng)聯(lián)汽車測(cè)試工程技術(shù)中心主任宋娟的《車載智能計(jì)算平臺(tái)安全體系研究與建議》中同樣提出，車載智能計(jì)算平臺(tái)面臨的在安全體系方面存在諸多挑戰(zhàn)。

1、功能安全I(xiàn)SO26262在自動(dòng)駕駛領(lǐng)域應(yīng)用方案尚未形成共識(shí)。在傳統(tǒng)汽車電子功能安全比較成熟，在自動(dòng)駕駛方面，整車廠和智能計(jì)算平臺(tái)企業(yè)還都在積極探索，尚未形成行業(yè)共識(shí)。

2、預(yù)期功能安全國(guó)內(nèi)研究基本空白。國(guó)外已經(jīng)在SOTIF方面開(kāi)展了大量，包括改進(jìn)流程、措施，但是國(guó)內(nèi)研究基本屬于空白。標(biāo)準(zhǔn)體系建設(shè)方面亟待完善，包括安全等級(jí)劃分、測(cè)評(píng)標(biāo)準(zhǔn)規(guī)范制定。測(cè)試能力亟待加強(qiáng)建設(shè)，比如如何構(gòu)建SOTIF相關(guān)場(chǎng)景庫(kù)。

3、信息安全縱深防御理念尚未系統(tǒng)融入汽車產(chǎn)業(yè)生態(tài)。

目前，針對(duì)車載智能計(jì)算平臺(tái)涉及硬件、軟件、通信等諸多關(guān)鍵技術(shù)，產(chǎn)品技術(shù)形態(tài)沒(méi)有確定，信息安全防護(hù)分層、分布式的技術(shù)支持也尚未成型。

在構(gòu)建縱深防御體系的同時(shí)，也需要權(quán)衡智能網(wǎng)聯(lián)汽車安全成本和效率方面之間的關(guān)系。宋娟針對(duì)發(fā)展現(xiàn)狀和存在的挑戰(zhàn)，提出了幾點(diǎn)發(fā)展建議：

第一，要圍繞產(chǎn)業(yè)實(shí)際應(yīng)用需求，以完善產(chǎn)業(yè)鏈和產(chǎn)業(yè)建設(shè)為中心，總體布局，分布推進(jìn)，建立健全安全體系，突破關(guān)鍵共性安全技術(shù)，保障產(chǎn)業(yè)安全和國(guó)家安全。

第二，深化架構(gòu)研究，加快標(biāo)準(zhǔn)研制。進(jìn)一步深化產(chǎn)品架構(gòu)研究，梳理、明確、細(xì)化功能和性能要求。加快開(kāi)展車載智能計(jì)算平臺(tái)標(biāo)準(zhǔn)化工作，建立健全標(biāo)準(zhǔn)規(guī)范體系，促進(jìn)行業(yè)形成共識(shí)。

在智能網(wǎng)聯(lián)的應(yīng)用層面，高精度地圖是確保安全的底層支撐。

四維圖新高級(jí)副總裁孟慶昕認(rèn)為，高精度地圖在未來(lái)智能網(wǎng)聯(lián)是基礎(chǔ)設(shè)施和載體，公眾出行、智慧交通、無(wú)人駕駛、安全應(yīng)急、城市治理都需要這張地圖。

所有的定位和實(shí)時(shí)信息回傳到高精度地圖平臺(tái)的有效載體上，因此高精度地圖的精細(xì)化、秒速更新、智能化決策無(wú)論對(duì)車路協(xié)同還是自動(dòng)駕駛仿真場(chǎng)景的安全應(yīng)用，都是至關(guān)重要的支撐。

正是由于信息高速處理和系統(tǒng)迭代，智能網(wǎng)聯(lián)將不斷面臨新的信息安全的威脅和風(fēng)險(xiǎn)，這與中國(guó)軟件評(píng)測(cè)中心、智能網(wǎng)聯(lián)汽車測(cè)試工程技術(shù)中心主任宋娟的擔(dān)憂不謀而合——代碼數(shù)量快速增加和OTA技術(shù)的應(yīng)用使信息安全問(wèn)題更加凸現(xiàn)。

對(duì)此，宋娟提出解決方案，在研發(fā)時(shí)首先需要高度關(guān)注安全問(wèn)題，同步全流程嵌入安全管理理念，配套加快包括檢測(cè)工具的研發(fā)和檢測(cè)平臺(tái)的搭建，強(qiáng)化技術(shù)保障能力。

信息安全是智能網(wǎng)聯(lián)產(chǎn)業(yè)不容忽視的一環(huán)，停留在單個(gè)功能環(huán)節(jié)的安全考量是不全面、不系統(tǒng)的。沿襲全產(chǎn)業(yè)鏈條、分層分級(jí)技術(shù)支撐形成合力，從產(chǎn)業(yè)全局角度思考才能構(gòu)筑智能網(wǎng)聯(lián)“大安全”。
責(zé)任編輯：tzh