人臉識(shí)別在重要領(lǐng)域的應(yīng)用要慎重 保證信息安全

人臉識(shí)別是生物特征識(shí)別的重要內(nèi)容，在20世紀(jì)90年代后期進(jìn)入初級(jí)的應(yīng)用階段，并且以美國(guó)、德國(guó)和日本的技術(shù)實(shí)現(xiàn)為主。近年來(lái)，我國(guó)相關(guān)技術(shù)發(fā)展突飛猛進(jìn)。人臉識(shí)別在給我們生活提供便捷的同時(shí)，也存在被攻擊或惡意利用的嚴(yán)重安全隱患。因此，針對(duì)人臉識(shí)別技術(shù)應(yīng)用和人臉數(shù)據(jù)庫(kù)、人臉識(shí)別模型建設(shè)一定要嚴(yán)格控制，人臉數(shù)據(jù)應(yīng)像基因數(shù)據(jù)一樣，通過(guò)技術(shù)和立法等手段予以嚴(yán)格保護(hù)。

一、人臉識(shí)別技術(shù)應(yīng)用現(xiàn)狀

生物識(shí)別技術(shù)主要利用人體固有生理特征（如指紋、聲紋、人臉、虹膜等）和行為特征（如筆跡、聲音、步態(tài)等）進(jìn)行個(gè)人身份鑒定。與其他生物識(shí)別技術(shù)相比，人臉識(shí)別具有準(zhǔn)確率高、非接觸、速度快等特點(diǎn)，在越來(lái)越多國(guó)家的政府、軍隊(duì)、金融、電子商務(wù)、安全防務(wù)及娛樂(lè)等領(lǐng)域推廣應(yīng)用，潛力巨大。

美國(guó)聯(lián)邦調(diào)查局（FBI）的“新一代身份識(shí)別數(shù)據(jù)庫(kù)”（NGI）在其超過(guò)1億份個(gè)人指紋信息記錄基礎(chǔ)上加入了掌紋、虹膜、人臉等多項(xiàng)生物特征數(shù)據(jù)，采集了美國(guó)成年人口的一半以上。澳大利亞移民及邊境保護(hù)局開始采用“免人手處理”的新入境系統(tǒng)，設(shè)立電子掃描站，利用生物識(shí)別技術(shù)辨認(rèn)入境游客的面孔、眼睛虹膜及指紋，取代傳統(tǒng)出示護(hù)照的入境程序。近年來(lái)，我國(guó)人臉識(shí)別技術(shù)也發(fā)展迅速，作為智慧社會(huì)的核心技術(shù)，人臉識(shí)別蓬勃發(fā)展和廣泛應(yīng)用的同時(shí)，潛伏著的各類安全隱患不容小覷。比如，2017年“3·15”晚會(huì)上，主持人在現(xiàn)場(chǎng)技術(shù)人員的支持下，僅憑一張觀眾的自拍照，就成功“換臉”破解了“刷臉登錄”認(rèn)證系統(tǒng)。

二、人臉識(shí)別技術(shù)的攻擊手段及風(fēng)險(xiǎn)

當(dāng)前，對(duì)于人臉數(shù)據(jù)的違規(guī)采集、泄露、竊取以及非法交易和利用等問(wèn)題是人臉識(shí)別技術(shù)和數(shù)據(jù)庫(kù)面臨的主要風(fēng)險(xiǎn)。如果這些安全風(fēng)險(xiǎn)不能通過(guò)技術(shù)、政策和法律法規(guī)來(lái)解決的話，必將對(duì)人臉識(shí)別技術(shù)發(fā)展產(chǎn)生“雙刃劍”效應(yīng)，凸顯制約瓶頸。

人臉識(shí)別的仿冒認(rèn)證。人臉識(shí)別系統(tǒng)可以對(duì)攝像頭采集的人臉圖像進(jìn)行辨認(rèn)，卻無(wú)法識(shí)別采集的人臉圖像是來(lái)自真人還是一張照片。人臉識(shí)別系統(tǒng)極易受到各類蓄意的仿冒攻擊，常見手段包括盜用合法用戶人臉照片、盜用合法用戶人臉視頻及盜用三維人臉面具等。為應(yīng)對(duì)人臉照片冒用，很多人臉識(shí)別系統(tǒng)加入了生物活性檢測(cè)（眨眼、張嘴、搖頭等）手段，但攻擊者仍可以利用視頻播放和自動(dòng)化人臉動(dòng)效等技術(shù)比較容易地逃過(guò)檢測(cè)。攻擊者借助人臉關(guān)鍵點(diǎn)定位和自動(dòng)化人臉動(dòng)效技術(shù)，通過(guò)將自拍照由靜態(tài)改為動(dòng)態(tài)，可以完成刷臉登錄需要的眨眼、張嘴等動(dòng)作。

人臉識(shí)別算法的攻擊。合法用戶身份仿冒需要以獲得合法用戶的人臉照片及視頻等數(shù)據(jù)作為前提條件。國(guó)內(nèi)某安全團(tuán)隊(duì)已經(jīng)實(shí)現(xiàn)了更具威脅的攻擊手段，使用完全不同用戶的人臉照片繞過(guò)身份識(shí)別系統(tǒng)。該攻擊手段對(duì)深度學(xué)習(xí)圖像識(shí)別等應(yīng)用造成逃逸攻擊以及數(shù)據(jù)污染攻擊等效果，不依賴于具體的深度學(xué)習(xí)模型，對(duì)Tensorflow、Caffe等當(dāng)前主流深度學(xué)習(xí)框架攻擊有效。

人臉數(shù)據(jù)的泄露途徑。人臉數(shù)據(jù)的泄露途徑主要有三種：1.互聯(lián)網(wǎng)公司的不當(dāng)采集。當(dāng)前各類網(wǎng)絡(luò)應(yīng)用，包括社交平臺(tái)、電子商務(wù)、拍攝軟件等廣泛采集用戶人臉數(shù)據(jù)，智能攝像頭也隨時(shí)隨地地抓拍各類人群的圖像數(shù)據(jù)。互聯(lián)網(wǎng)公司對(duì)我國(guó)網(wǎng)民人臉數(shù)據(jù)的采集，尤其是境外公司的違規(guī)采集行為將對(duì)我國(guó)用戶及國(guó)家安全帶來(lái)極大威脅。2.用戶上傳與分享。為了滿足實(shí)名制要求，大多數(shù)互聯(lián)網(wǎng)企業(yè)要求用戶上傳身份證信息資料和照片。在線支付和投資理財(cái)網(wǎng)站甚至要求用戶提交手持身份證的照片。另外，不少網(wǎng)民喜歡在朋友圈曬各類生活信息，包括本人、好友以及家人的照片，成為人臉數(shù)據(jù)泄露的重要來(lái)源。3.人臉數(shù)據(jù)庫(kù)被攻擊和竊取。公司采集的人臉數(shù)據(jù)都會(huì)存儲(chǔ)成為企業(yè)的數(shù)據(jù)庫(kù)。從目前全世界的情況來(lái)看，存在重大的數(shù)據(jù)泄露、失竊的潛在安全風(fēng)險(xiǎn)，數(shù)據(jù)泄露案件頻發(fā)。如2017年國(guó)內(nèi)某求職網(wǎng)站被曝光泄露求職簡(jiǎn)歷數(shù)據(jù)，包含了用戶的姓名、頭像及畢業(yè)學(xué)校等信息。2018年，在歐美國(guó)家持續(xù)發(fā)酵的美國(guó)某社交平臺(tái)多達(dá)5000萬(wàn)用戶包括個(gè)人照片、視頻等隱私信息被泄露。

基于人臉識(shí)別的AI大規(guī)模殺傷性武器研制的威脅。將人臉識(shí)別和機(jī)器人控制等最新的人工智能技術(shù)結(jié)合起來(lái)，制造自主的大規(guī)模殺傷性武器在技術(shù)上是可行的。殺傷性武器裝載傳感器、攝像頭、GPS定位等高科技功能設(shè)備可進(jìn)行人臉識(shí)別、躲避狙擊、攜帶炸藥等，做到一擊斃命。在自主致命武器的技術(shù)鏈條中，人臉識(shí)別技術(shù)是一個(gè)關(guān)鍵環(huán)節(jié)。自主致命武器一般是通過(guò)攝像頭、雷達(dá)等獲取戰(zhàn)場(chǎng)信息，通過(guò)對(duì)攝像頭中的人體、人臉進(jìn)行識(shí)別，鎖定目標(biāo)并攻擊。使用深度學(xué)習(xí)等人工智能技術(shù)來(lái)精準(zhǔn)、自動(dòng)識(shí)別攻擊目標(biāo)是傳統(tǒng)武器不具備的能力，也是自主致命武器的核心技術(shù)。要想達(dá)到目標(biāo)的精準(zhǔn)識(shí)別，尤其是區(qū)分?jǐn)澄?，需要?xùn)練高準(zhǔn)確度的深度神經(jīng)網(wǎng)絡(luò)模型，訓(xùn)練過(guò)程需要大量實(shí)際的人臉數(shù)據(jù)做支撐。最新的研究成果表明，經(jīng)過(guò)大量真實(shí)數(shù)據(jù)的積累和訓(xùn)練，人工智能可以達(dá)到并超過(guò)人眼的識(shí)別準(zhǔn)確度。因此，人臉數(shù)據(jù)是致命武器研制過(guò)程中的基礎(chǔ)與核心。目前，美國(guó)、韓國(guó)等個(gè)別國(guó)家已經(jīng)在研發(fā)AI殺人機(jī)器人，這種人工智能技術(shù)，一旦被運(yùn)用于未來(lái)戰(zhàn)場(chǎng)或被恐怖分子利用，后果都將異常嚴(yán)重。因此，加強(qiáng)人臉識(shí)別技術(shù)的監(jiān)管、規(guī)范及利用勢(shì)在必行。

三、人臉識(shí)別技術(shù)應(yīng)用的安全防范

為應(yīng)對(duì)人臉識(shí)別技術(shù)應(yīng)用的諸多風(fēng)險(xiǎn)，應(yīng)該從保護(hù)人臉數(shù)據(jù)和人臉模型的角度，完善生物識(shí)別相關(guān)法律法規(guī)，建立人臉大數(shù)據(jù)中心和多因子識(shí)別管理體系，加強(qiáng)技術(shù)應(yīng)用的監(jiān)管和數(shù)據(jù)保護(hù)。

保護(hù)好我國(guó)人臉數(shù)據(jù)和人臉模型，完善生物識(shí)別相關(guān)法律法規(guī)。高質(zhì)量的人臉數(shù)據(jù)和高精度的人臉模型是自主致命武器的核心。保護(hù)好一個(gè)種族的人臉數(shù)據(jù)和人臉模型，就像保護(hù)這個(gè)種族的基因庫(kù)一樣，是限制敵對(duì)方開發(fā)針對(duì)本種族的自主致命武器的關(guān)鍵任務(wù)。在人臉數(shù)據(jù)的采集、存儲(chǔ)、傳輸及使用等環(huán)節(jié)，應(yīng)通過(guò)技術(shù)和立法等手段加強(qiáng)保護(hù)和監(jiān)管，既要尊重人工智能科學(xué)發(fā)展，又要保護(hù)人臉數(shù)據(jù)資源合法合規(guī)流通和使用。一要建立生物特征信息相關(guān)的管理機(jī)構(gòu)和制度，保障人臉數(shù)據(jù)的安全、規(guī)范使用。構(gòu)建一個(gè)透明的機(jī)制和統(tǒng)一的機(jī)構(gòu)，既可以約束從業(yè)廠商、數(shù)據(jù)運(yùn)營(yíng)方，做好隱私保護(hù)，又可以取得公眾理解和支持，推動(dòng)技術(shù)創(chuàng)新升級(jí)，以獲得共贏。建議將2016年成立的中國(guó)自動(dòng)識(shí)別技術(shù)協(xié)會(huì)生物特征識(shí)別工作組升格為生物特征識(shí)別技術(shù)專業(yè)委員會(huì)，以更好為行業(yè)標(biāo)準(zhǔn)和安全提供技術(shù)引導(dǎo)和監(jiān)管服務(wù)。二要加快制定與個(gè)人信息保護(hù)相關(guān)的法律法規(guī)，確立個(gè)人信息控制權(quán)、刪除權(quán)、遺忘權(quán)等信息權(quán)利，健全個(gè)人對(duì)信息權(quán)利的投訴和救濟(jì)機(jī)制。2017年，中央網(wǎng)絡(luò)安全和信息化領(lǐng)導(dǎo)小組辦公室、國(guó)家質(zhì)量監(jiān)督檢驗(yàn)檢疫總局、全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)聯(lián)合發(fā)布了國(guó)家標(biāo)準(zhǔn)《信息安全技術(shù)個(gè)人信息安全規(guī)范》（GB/T 35273-2017），為我國(guó)個(gè)人信息保護(hù)工作的開展提供了翔實(shí)的實(shí)務(wù)指南，已于2018年5月1日正式實(shí)施。但是，該標(biāo)準(zhǔn)是國(guó)家推薦性標(biāo)準(zhǔn)，并不具有法律強(qiáng)制效力，因此建議盡快予以立法，提高國(guó)家應(yīng)對(duì)層級(jí)。三是落實(shí)生物特征數(shù)據(jù)生命周期各環(huán)節(jié)的安全主體責(zé)任，厘清大數(shù)據(jù)下政府、企業(yè)及個(gè)人的數(shù)據(jù)權(quán)責(zé)問(wèn)題，促進(jìn)數(shù)據(jù)市場(chǎng)法治秩序。

安防領(lǐng)域規(guī)范人臉模型訓(xùn)練和流轉(zhuǎn)，建立人臉大數(shù)據(jù)中心。如果人臉數(shù)據(jù)和模型的合法性得不到保證和強(qiáng)調(diào)，勢(shì)必出現(xiàn)人臉數(shù)據(jù)和模型的地下市場(chǎng)，造成數(shù)據(jù)和模型泄露的嚴(yán)重風(fēng)險(xiǎn)。解決人臉數(shù)據(jù)和模型的泄露風(fēng)險(xiǎn)的技術(shù)和法律方案是存在的。在技術(shù)上，建議公安系統(tǒng)在國(guó)家和省級(jí)層面建立人臉大數(shù)據(jù)中心，在物理隔絕的專網(wǎng)內(nèi)存儲(chǔ)人臉數(shù)據(jù)。算法供應(yīng)商的模型必須在公安專網(wǎng)的大數(shù)據(jù)中心內(nèi)進(jìn)行訓(xùn)練，產(chǎn)生的模型也必須應(yīng)用在公安系統(tǒng)的專網(wǎng)內(nèi)部，實(shí)現(xiàn)數(shù)據(jù)、模型物理上不出專網(wǎng)。深度學(xué)習(xí)的模型如果需要跨省市流轉(zhuǎn)并持續(xù)訓(xùn)練增強(qiáng)，只能在公安專網(wǎng)內(nèi)部流轉(zhuǎn)。算法供應(yīng)商可以租用公安大數(shù)據(jù)中心的數(shù)據(jù)和計(jì)算力進(jìn)行算法模型的升級(jí)和更新。在法律和行業(yè)規(guī)范上，建議規(guī)定并區(qū)分?jǐn)?shù)據(jù)和模型流轉(zhuǎn)的法律關(guān)系。程序是由程序員編寫而成，其信息的來(lái)源是程序員自身，是人創(chuàng)造的產(chǎn)物。但是模型是由數(shù)據(jù)訓(xùn)練而來(lái)，其信息的來(lái)源是人臉大數(shù)據(jù)，是自然資源進(jìn)一步加工的產(chǎn)物。區(qū)分算法供應(yīng)商的程序版權(quán)和模型來(lái)源，對(duì)于使用的模型需要提供訓(xùn)練數(shù)據(jù)源所有者的授權(quán)證書。規(guī)定數(shù)據(jù)和模型的流轉(zhuǎn)必須有詳細(xì)、有區(qū)別的法律手續(xù)背書，對(duì)數(shù)據(jù)進(jìn)行訓(xùn)練得到模型，并不能改變數(shù)據(jù)屬主對(duì)模型的擁有關(guān)系。

人臉識(shí)別在重要領(lǐng)域的應(yīng)用要慎重，建立多因子識(shí)別管理體系。雖然生物識(shí)別的準(zhǔn)確性等問(wèn)題會(huì)隨著技術(shù)進(jìn)步逐步獲得改善，但生物識(shí)別身份卻存在難以克服的安全風(fēng)險(xiǎn)，甚至可能危害國(guó)家安全。因此，大規(guī)模的廣泛應(yīng)用，尤其是在重要領(lǐng)域的使用，必須慎之又慎，不能放任商業(yè)企業(yè)追逐利潤(rùn)自行其是。對(duì)于生物識(shí)別產(chǎn)品來(lái)說(shuō)，即使檢測(cè)準(zhǔn)確度達(dá)到99.99%，一旦大規(guī)模應(yīng)用，由于上億用戶規(guī)模的基數(shù)太大，被誤判影響的人群數(shù)目也會(huì)非常之多，給人身財(cái)產(chǎn)利益帶來(lái)的損失也將十分巨大。無(wú)論從技術(shù)上還是法律上考慮，當(dāng)前都還不宜過(guò)分依賴人臉作為生物識(shí)別中唯一的身份識(shí)別手段，建議可以采用多因子識(shí)別管理體系，與其他身份識(shí)別手段相結(jié)合，提高系統(tǒng)的安全性、穩(wěn)定性和科學(xué)性。