鄭建華院士：解讀人工智能與信息安全

導(dǎo)讀：人工智能領(lǐng)域涉及的安全問題較多，如國家安全、社會安全、人的安全，還包括一些倫理問題和隱私問題。人工智能主要是基于信息基礎(chǔ)構(gòu)建的一些應(yīng)用，它離不開信息的采集、存儲、分析、傳播。同時，人工智能領(lǐng)域的思想、方法、理論對信息安全也有很多的應(yīng)用。

1、信息安全的基本要求

******曾經(jīng)說過，沒有網(wǎng)絡(luò)安全就沒有國家安全，沒有信息化就沒有現(xiàn)代化。這充分表達出了信息化與現(xiàn)代化、信息安全與國家安全的關(guān)系。同時，從新技術(shù)，比如“互聯(lián)網(wǎng)+”、物聯(lián)網(wǎng)、云計算、大數(shù)據(jù)到區(qū)塊鏈等新技術(shù)的進一步發(fā)展，都要以信息技術(shù)為引導(dǎo)，人工智能也是如此，通過一系列技術(shù)的創(chuàng)新，最終才能真正發(fā)展國家經(jīng)濟，提升國家綜合實力。從這個意義上說，沒有信息化就沒有現(xiàn)代化，包括人工智能在內(nèi)的新技術(shù)的發(fā)展，都需要以信息技術(shù)為主導(dǎo)。

信息化是一個雙刃劍，帶來很多便利的同時，也出現(xiàn)了很多安全問題，因此應(yīng)當把信息安全提高到國家安全重要組成部分的高度。保密性、完整性、可用、可控和不可抵賴性是信息安全的五個基本屬性。信息安全要實現(xiàn)的目標是，對信息的使用和處理均經(jīng)過所有權(quán)人的授權(quán)、嚴格按所有權(quán)人要求、真實地順暢地合理地進行。要經(jīng)過所有權(quán)人授權(quán)，主要是指身份識別問題，身份是有所有權(quán)的，要經(jīng)過授權(quán)對信息進行使用；在使用中是可讀、可寫還是可改，就需要按照授權(quán)人的授權(quán)要求進行；真實指信息的使用要真實，不是經(jīng)過篡改或者偽造的，要保證其真實性；順暢是指在信息使用過程中，能夠保證信息系統(tǒng)能夠正常使用；合理性就是要理性使用，主要是對信息的管控，如要對有害信息進行有效治理。

信息的采集、傳輸、存儲、管理以及信息的處理和使用等環(huán)節(jié)中，都會涉及到安全問題。

信息采集主要是指控制問題，如是不是按照真實情況進行采集？采集數(shù)據(jù)過程中是不是是否嚴格遵守規(guī)定？

信息傳輸中要有效地進行保護，做好保密工作，要保證它的真實性不被篡改，保證傳輸過程的可靠性，能夠抗干擾。

信息存儲和管理，強調(diào)的是真實性和保密性，不會被篡改，不會被濫用。以后，很多的信息都會放在云上面，那么要如何保證個人信息的安全呢？要知道云的管理者是不可信的，每個用戶的信息對他也要進行保密，因此說云的安全或大數(shù)據(jù)的安全，只是指存儲和管理方面的安全。

那么在信息處理和使用中，就會存在另外一個問題，就是怎樣進行身份識別和權(quán)限的有效管理？最后，處理的結(jié)果要進行簽名，保證它的真實性，同時可以對信息使用的整個生命周期進行追溯。

總之，信息安全不僅僅是在于信息本身的安全，信息的作用也不僅僅只是針對設(shè)備而言，它甚至延展到了人的身上，因此提高信息的安全性顯得尤為重要。

2、人工智能應(yīng)用的信息技術(shù)體系

當前社會引發(fā)了一輪又一輪的人工智能熱潮，很多都是由于數(shù)據(jù)驅(qū)動，正是在云計算、大數(shù)據(jù)等技術(shù)的發(fā)展下，人工智才有了一次又一次的飛躍。所以數(shù)據(jù)的安全、信息的安全貫穿著人工智能應(yīng)用的過程中。

人工智能大體分為幾個層面。

（1）感知層，各類傳感器采集各類信息，也就是信息的采集，這涉及到很多安全問題。

（2）傳輸層，采集過程要進行處理，進行反作用，靠的是基礎(chǔ)網(wǎng)絡(luò)，涉及到傳輸過程的安全。

（3）數(shù)據(jù)層，可能進行數(shù)據(jù)匯聚，通過大量數(shù)據(jù)的分析和協(xié)同，來產(chǎn)生新的知識和價值。

（4）應(yīng)用層，也就是服與控制，提供服務(wù)，對終端進行反控制，類似一個循環(huán)吧，一個有機的循環(huán)回路。

3、人工智能應(yīng)用的安全需求

人工智能的每一層都涉及到安全問題和數(shù)據(jù)安全問題。在身份識別認證中，人和設(shè)備是不是可信的，是不是有正當權(quán)限的人和設(shè)備。數(shù)據(jù)保護中，不管是傳輸還是存儲過程，都要保證數(shù)據(jù)的可控性、真實性和可追溯。如果數(shù)據(jù)在傳輸或存儲過程中被篡改了，那到最后通過算法推導(dǎo)出的結(jié)果，也必然是不真實和不可信的。

但在這個過程中也存在一個問題，保證數(shù)據(jù)能夠進行有效地匯聚，既要保證數(shù)據(jù)所有者的權(quán)益，同時又能夠通過這種大數(shù)據(jù)的匯聚產(chǎn)生價值，在可控的范圍之內(nèi)，這里的安全問題也是現(xiàn)在研究的重點和難點。

4、人工智能應(yīng)用的安全建設(shè)

安全問題在重視應(yīng)用的同時也要考慮到安全和應(yīng)用建設(shè)的同步發(fā)展。

政府要主導(dǎo)，在人工智能應(yīng)用中深入分析安全需求，進行頂層的設(shè)計，提出安全要求；加強安全制度建設(shè)，建立安全準入制度和檢測評估方法、機制。

企業(yè)應(yīng)該從感知、傳輸、分析協(xié)同、服務(wù)控制等方面建立一些安全標準。同時既要重視機制的保障還要重視技術(shù)的保障，使人工智能的應(yīng)用和網(wǎng)絡(luò)安全建設(shè)同步發(fā)展。

5、需要關(guān)注的網(wǎng)絡(luò)安全技術(shù)

（1）身份識別和生物特征識別。身份識別的核心是密碼技術(shù)，但對于輕量級設(shè)備、便攜的智能設(shè)備而言，它們的計算能力還較弱，使用成熟的密碼技術(shù)會存在一些問題，這需要對原來的身份識別進行改造。生物特征識別也是如此，目前的生物識別技術(shù)還沒有建立一個安全的邏輯鏈條。

（2）移動安全?，F(xiàn)在各種智能應(yīng)用的終端主要以手機為主，手機與PC機相比更不安全，因為手機更便捷、成本低、更新快，所以安全隱患更多，更難解決，建立體系建立難度更大。

（3）大數(shù)據(jù)安全。大數(shù)據(jù)安全比一般意義上的云安全難度更大，云安全主要是用戶信息是放在云上，僅供用戶使用，同時云的管理者是不能看到用戶的信息。而大數(shù)據(jù)安全相對來說更加復(fù)雜，它是將很多用戶的數(shù)據(jù)都放在云上，將不同用戶的信息進行融合處理，每個用戶需要自己進行加密，否則無法保證數(shù)據(jù)的安全，但是加密之后如何讓其他人使用，或在一定限度內(nèi)實現(xiàn)共享，既要加密保護，又要能夠有效地進行數(shù)據(jù)的融合和利用，這是很難解決的問題，同時也涉及到加密檢索，保證數(shù)據(jù)的完整性，安全的計算外包。

（4）系統(tǒng)脆弱性。目前網(wǎng)絡(luò)攻防態(tài)勢非常嚴峻，主要就是是利用信息系統(tǒng)，要知道現(xiàn)在的信息系統(tǒng)還不完善，具有脆弱性，將來人工智能應(yīng)用也是一個程序、一段代碼，如果出現(xiàn)嚴重漏洞，就會被惡意代碼取得它的控制權(quán)，帶來極大的危害，所以系統(tǒng)的脆弱性也是網(wǎng)絡(luò)安全非常重要的問題之一。

6、網(wǎng)絡(luò)安全中的人工智能

人工智能在網(wǎng)絡(luò)安全領(lǐng)域也得到越來越多的應(yīng)用，它在主動安全防護、主動防御、策略配置方面發(fā)揮的作用越來越大，但是當前仍舊處于探索階段。比如基于神經(jīng)網(wǎng)絡(luò)，在入侵檢測、識別垃圾郵件、發(fā)現(xiàn)蠕蟲病毒、偵測和清除僵尸網(wǎng)絡(luò)設(shè)備、發(fā)現(xiàn)和阻斷未知類型惡意軟件執(zhí)行等方面進行了大量的探索；基于專家系統(tǒng)，在安全規(guī)劃、提高安全運行中心效率、量化風險評估、威脅情報等方面也做了很多探索，收到了良好的效果。

人工智能技術(shù)的蓬勃發(fā)展，也必然對網(wǎng)絡(luò)空間安全帶來重大的機遇和挑戰(zhàn)。

最后用張鈸院士的一句話進行總結(jié)：網(wǎng)絡(luò)安全促進人工智能的未來發(fā)展，人工智能改變網(wǎng)絡(luò)安全的未來！