人工智能的“無間道”還將長時間上演?

前段時間，一些視頻在網(wǎng)上廣泛傳播。有人在1994年電視劇《射雕英雄傳》中使用人工智能技術(shù)，將演員朱茵扮演的黃蓉一角換成了楊冪，效果幾可亂真；還有人將人工合成的“美國前總統(tǒng)奧巴馬”放在境外社交媒體上，吐糟現(xiàn)任總統(tǒng)特朗普是“徹頭徹尾的笨蛋”。

人們看了之后，大多當(dāng)做網(wǎng)絡(luò)段子一笑而過，但仔細(xì)想想的話，如果你的臉也被用來制作假視頻、假新聞，你還能笑得出來嗎？

實際上，人工智能技術(shù)的濫用和因算法漏洞引起的安全問題，已經(jīng)引起了業(yè)內(nèi)人士的高度警覺，一場看不見硝煙的“攻防戰(zhàn)”，正日趨白熱化。

危險逼近

從街頭巷尾刷臉支付的無人售貨機(jī)，到公共場所的安防監(jiān)控，甚至是影視制作、國防事業(yè)，人工智能正深刻地改變著人們的生產(chǎn)生活方式。但今年以來，利用人工智能技術(shù)造假的新聞屢見報端，也引發(fā)了越來越多的公眾關(guān)注。

“公眾對人工智能技術(shù)抱有希望和想象，相信它能為生活的方方面面帶來改變，但我們也應(yīng)當(dāng)正視，當(dāng)前人工智能技術(shù)還處在比較初步的發(fā)展階段，還面臨著一些挑戰(zhàn)?！鼻迦A大學(xué)教授、清華大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍坦言。

冰凍三尺非一日之寒，早在幾年前，學(xué)術(shù)界和產(chǎn)業(yè)界已經(jīng)感受到危機(jī)在悄悄逼近。

“這幾年在各種各樣的學(xué)術(shù)會議上，我們能聽到越來越多關(guān)切的聲音，有關(guān)人工智能安全的論文也是呈指數(shù)級增長?！比鹑R智慧（RealAI）公司CEO田天說，該公司是清華大學(xué)人工智能研究院重點孵化的一家高新技術(shù)企業(yè)。

人工智能濫用也已引起國家有關(guān)部門高度關(guān)注。5月28日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《數(shù)據(jù)安全管理辦法（征求意見稿）》，其中明確表示，網(wǎng)絡(luò)運(yùn)營者利用大數(shù)據(jù)、人工智能等技術(shù)自動合成新聞、博文、帖子、評論等信息，應(yīng)以明顯方式標(biāo)明“合成”字樣；不得以謀取利益或損害他人利益為目的自動合成信息。

除了技術(shù)的濫用，人工智能本身存在的算法漏洞也令人擔(dān)憂。幾個月前，比利時魯汶大學(xué)的研究人員發(fā)布了一則視頻，實驗者通過在肚子上貼一張打印出來的圖片，就能夠逃脫智能監(jiān)控系統(tǒng)的識別，實現(xiàn)“隱身”；而想要把“隱身術(shù)”傳給同伴也很簡單，只要把這張紙遞給他就好了。

“可以設(shè)想，如果這項技術(shù)被犯罪分子掌握，就能夠很容易躲避智能安防系統(tǒng)，給公共安全帶來極大威脅?！碧锾煺f。

“道”高一尺 必先“魔”高一丈

2018年6月，清華大學(xué)人工智能研究院揭牌成立，以“一個核心、兩個融合”作為發(fā)展戰(zhàn)略，即以人工智能基礎(chǔ)理論和基本方法研究為核心，積極推進(jìn)大跨度的學(xué)科交叉融合，積極推進(jìn)大范圍的技術(shù)與產(chǎn)業(yè)、學(xué)校與企業(yè)融合。

該研究院院長、中國科學(xué)院院士張鈸認(rèn)為，作為研究性機(jī)構(gòu)，清華大學(xué)人工智能研究院的本分是要搞好學(xué)術(shù)研究，“但是人工智能又與應(yīng)用結(jié)合相當(dāng)緊密，因此研究院不僅僅是開開會，我們的研究一定要產(chǎn)生出算法，要孵化出新產(chǎn)業(yè)，甚至成為人工智能界的‘BAT’（百度、阿里巴巴、騰訊的合稱）。”

在這一思路的指引下，瑞萊智慧應(yīng)運(yùn)而生，其核心研發(fā)團(tuán)隊來自清華大學(xué)、北京大學(xué)、中科院等，致力于打造安全、可靠、可解釋的第三代人工智能，提供工業(yè)檢測、預(yù)測性維護(hù)、金融風(fēng)控、人工智能系統(tǒng)安全評測與防護(hù)等服務(wù)。

“在技術(shù)層面，人工智能安全會是一個持續(xù)攻防的過程?！碧锾煺f，“攻擊者會采用新的方法來進(jìn)行攻擊，而防御者也需要適應(yīng)動態(tài)變化的攻擊場景。如果要占據(jù)主動權(quán)，就要對未來可能潛在的攻防場景做預(yù)演，并為應(yīng)對潛在的風(fēng)險提前設(shè)計可行方案?！?/p>

瑞萊智慧算法科學(xué)家蕭子豪介紹，他們很早就關(guān)注到網(wǎng)上假視頻、假圖片的問題，一直在想能否利用清華積累的技術(shù)優(yōu)勢，去防止人工智能技術(shù)的濫用。

但是，想練就一副“火眼金睛”，就得需要大量高質(zhì)量的數(shù)據(jù)去訓(xùn)練計算機(jī)。

近期，瑞萊智慧將工作的重點放在了換臉假視頻的檢測上，研發(fā)團(tuán)隊利用清華大學(xué)人工智能研究院在深度生成模型方面的積累，通過生成更加逼真的假視頻，訓(xùn)練出了一個更加可靠的模型來檢測假視頻。經(jīng)測試，這一模型的識別準(zhǔn)確率超過了99%，能夠覆蓋市面上絕大多數(shù)換臉技術(shù)生成的假視頻，達(dá)到了“真的不誤殺，假的不漏判”的目標(biāo)。

打開“黑盒”

張鈸在2016年中國計算機(jī)大會上提出了“后深度學(xué)習(xí)時代的人工智能”，此后又進(jìn)一步提出了“第三代人工智能”的概念，曾引起廣泛關(guān)注。

這是因為當(dāng)前主流的基于深度學(xué)習(xí)的人工智能技術(shù)，也就是第二代人工智能，存在著一個難以逾越的“天花板”，業(yè)內(nèi)人士稱之為“黑盒”。

“當(dāng)前人工智能的算法越來越復(fù)雜，它告訴你明天要下雨，但是你完全不知道它是怎么做的決策，又談何信賴呢？”田天坦言，如果被人利用，“黑盒”將帶來嚴(yán)重的安全問題。

魯汶大學(xué)的“隱身術(shù)”原理其實就是針對這種算法漏洞，專門生成一些噪點，來誘導(dǎo)人工智能識別出錯。

瑞萊智慧也做了類似的嘗試。技術(shù)人員研發(fā)了一種帶有噪點的“眼鏡”，只要戴上，就能通過商用智能手機(jī)的刷臉解鎖。

多年來，清華大學(xué)人工智能研究院一直在攻防技術(shù)上深耕，曾在谷歌公司組織的“對抗樣本攻防競賽”上獲得了所有任務(wù)的冠軍。創(chuàng)辦瑞萊智慧后，研發(fā)團(tuán)隊利用新技術(shù)做了更精確的建模，更加深入地研究如何利用白盒的替代模型來攻擊黑盒的受害模型。通過發(fā)現(xiàn)真實存在的、危害更大的漏洞，團(tuán)隊進(jìn)一步有針對性地設(shè)計防御算法來提升整個人工智能系統(tǒng)的安全性。

今年5月，清華大學(xué)人工智能研究院與瑞萊智慧聯(lián)合發(fā)布了人工智能安全平臺——“RealSafe對抗攻防平臺”，它能夠提供多種攻擊與防御算法，開展全面、細(xì)致的攻擊防御算法的評測與比較。此外，通過該平臺，研究人員可以很容易地開展人工智能安全方面的學(xué)習(xí)和實訓(xùn)，幫助更多的人來關(guān)心和研究人工智能安全。

“隨著人工智能技術(shù)滲透到人們生活的各個方面，因技術(shù)濫用、算法漏洞等導(dǎo)致的安全問題也隨之而來。對此，公眾需要提高自我保護(hù)意識?！碧锾旌粲酰暗斯ぶ悄芸傮w來說是有利于社會發(fā)展、有利于提升人民生活水平的，隨著技術(shù)的不斷演進(jìn)，人工能智能會讓我們的生活變得更加便捷，更加美好。”

顯然，人工智能的“無間道”還將長時間上演。但可以肯定的是，這條螺旋式上升的路，最終會將人類帶往一個充滿想象力的未來。