人工智能的惡意用途：預(yù)測(cè)、預(yù)防和緩解

日前，26位專家學(xué)者就人工智能安全問(wèn)題聯(lián)合發(fā)布了一份報(bào)告，這份名為《人工智能的惡意用途：預(yù)測(cè)、預(yù)防和緩解》的報(bào)告，呼吁大家關(guān)注危險(xiǎn)人工智能的崛起，并為之做好充分的準(zhǔn)備。

報(bào)告指出惡意利用人工智能將導(dǎo)致潛在的安全威脅，并提出了多種預(yù)測(cè)、預(yù)防和緩解威脅的方式建議。報(bào)告分析了在未來(lái)5到10年內(nèi)，人工智能在數(shù)字安全、物理安全和政治安全領(lǐng)域可能產(chǎn)生的影響，并向研究者等領(lǐng)域相關(guān)人員提出了四條應(yīng)對(duì)建議。此外，報(bào)告還提及了多個(gè)有前景的研究領(lǐng)域，以促進(jìn)人工智能安全問(wèn)題的防治解決。最后，報(bào)告還討論了安全行為中攻守雙方的平衡問(wèn)題，但未提出明確的解決方案。

本次報(bào)告撰寫(xiě)者來(lái)自于14家頂尖人工智能研究及安全組織，它們包括：非營(yíng)利組織OpenAI（不久前Open AI宣布聯(lián)合創(chuàng)始人Elon Musk將離開(kāi)董事會(huì)，但會(huì)繼續(xù)為該組織提供支持和建議）、劍橋大學(xué)生存風(fēng)險(xiǎn)研究中心（CSER）、牛津大學(xué)人類未來(lái)研究所（FHI）、新美國(guó)安全中心（CNAS）、電子前沿基金會(huì)（EFF）等。

關(guān)于人工智能的分析報(bào)告不少，如白宮出臺(tái)的《國(guó)家人工智能研究與發(fā)展策略規(guī)劃》、我國(guó)四部委聯(lián)合發(fā)印的《“互聯(lián)網(wǎng)+”人工智能三年行動(dòng)實(shí)施方案》、烏鎮(zhèn)智庫(kù)推出的《烏鎮(zhèn)指數(shù)：全球人工智能發(fā)展報(bào)告2017》等等。但這些報(bào)告更多地側(cè)重于人工智能的光明前景，而撰寫(xiě)此次報(bào)告的專家們卻認(rèn)為：

人們對(duì)人工智能被惡意使用的方式與可能性，

從未給予過(guò)足夠重視，這是值得擔(dān)憂的。

烏鎮(zhèn)報(bào)告中的人工智能領(lǐng)域大學(xué)排名（Top20）

人工智能將如何影響現(xiàn)有的安全格局

1、人工智能會(huì)擴(kuò)大現(xiàn)有的安全威脅。通過(guò)AI系統(tǒng)的拓展使用，那些通常需要人力、智力和專業(yè)知識(shí)的任務(wù)將更容易完成，令攻擊成本大大降低。這會(huì)直接導(dǎo)致被攻擊人群的范圍迅速擴(kuò)大，增加更多可攻擊的潛在目標(biāo)，其攻擊速度也會(huì)攀升。

2、人工智能會(huì)引入新的安全威脅。通過(guò) AI 系統(tǒng)，攻擊者可以完成以往難以做到的新型安全攻擊。另一方面，所開(kāi)發(fā)的AI系統(tǒng)本身也會(huì)因?yàn)殚_(kāi)發(fā)漏洞而增加被攻擊利用的可能。

3、人工智能會(huì)改變安全威脅的典型特征。伴隨著AI的迅速普及應(yīng)用，安全攻擊將會(huì)更加高效、富于針對(duì)性，并且難以溯因防守。這將很大程度上改變網(wǎng)絡(luò)安全問(wèn)題的相關(guān)特征。

人工智能的應(yīng)用前景

報(bào)告中還詳細(xì)分析了數(shù)字安全、物理安全和政治安全這三個(gè)領(lǐng)域，并通過(guò)一些代表性的例子說(shuō)明了其中潛在的安全威脅：

數(shù)字安全：傳統(tǒng)的網(wǎng)絡(luò)攻擊任務(wù)中，攻擊規(guī)模和攻擊效率之間往往不能兩全，而使用AI來(lái)執(zhí)行這些任務(wù)，將突破這一局限。比如，它會(huì)增大“勞動(dòng)密集型”網(wǎng)絡(luò)攻擊（如魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)）的威脅程度。此外，人工智能還會(huì)促成各種新型安全攻擊：利用人類弱點(diǎn)，例如通過(guò)語(yǔ)音合成進(jìn)行身份冒充；利用現(xiàn)有的軟件漏洞進(jìn)行自動(dòng)黑客攻擊；通過(guò)對(duì)抗性樣本和數(shù)據(jù)下毒攻擊AI系統(tǒng)，等等。

物理安全：使用AI來(lái)自動(dòng)執(zhí)行如無(wú)人機(jī)或其他物理系統(tǒng)（如自主武器系統(tǒng)）有關(guān)的攻擊任務(wù)。此外，AI也可能會(huì)催生新型的攻擊方式，包括破壞物理網(wǎng)絡(luò)（如導(dǎo)致自動(dòng)駕駛車(chē)輛癱瘓故障）、可實(shí)現(xiàn)遠(yuǎn)程入侵的物理系統(tǒng)（如成千上萬(wàn)的微型無(wú)人機(jī)）。

政治安全：使用AI進(jìn)行自動(dòng)地監(jiān)控（如分析所收集的數(shù)據(jù)）、勸誘（如有針對(duì)性地宣傳）、欺詐（如竄改影像資料），這可能會(huì)導(dǎo)致更嚴(yán)重的隱私侵犯和社交操縱。此外，利用AI的學(xué)習(xí)能力，在現(xiàn)有數(shù)據(jù)的基礎(chǔ)上，分析掌握人們的行為、情緒、信念，這也是一大潛在危險(xiǎn)。這些手段被威權(quán)國(guó)家采用將尤其令人憂心。當(dāng)然，不可否認(rèn)，它也會(huì)同時(shí)危及民主國(guó)家（如是否還能保證公開(kāi)辯論的真實(shí)性）。

Musk領(lǐng)導(dǎo)的特斯拉正在積極推進(jìn)無(wú)人駕駛技術(shù)

為應(yīng)對(duì)這些威脅挑戰(zhàn)，報(bào)告提出了四項(xiàng)建議：

密切合作：決策者應(yīng)與技術(shù)研究人員保持密切合作，防止人工智能被惡意應(yīng)用。

嚴(yán)陣以待：人工智能領(lǐng)域的相關(guān)人員應(yīng)審慎對(duì)待他們工作的雙重性，并在有害應(yīng)用可預(yù)見(jiàn)時(shí)迅速采取措施，積極與相關(guān)行為者接觸。

制定方案：應(yīng)采用更多成熟的方案，以便在研究領(lǐng)域確立最佳的實(shí)踐方法，來(lái)解決AI的雙刃劍問(wèn)題。就像解決計(jì)算機(jī)安全一樣來(lái)考慮哪些地方可以應(yīng)用 AI。

擴(kuò)大討論：積極拓寬該討論的參與者范圍。

質(zhì)疑炒作

對(duì)于這份報(bào)告，Gigaom網(wǎng)站評(píng)論員Jon Collins認(rèn)為，它缺乏對(duì)風(fēng)險(xiǎn)的“性質(zhì)討論”，他批評(píng)道：“……風(fēng)險(xiǎn)是個(gè)數(shù)學(xué)結(jié)構(gòu)，是概率和影響的產(chǎn)物。而報(bào)告里卻一而再地使用‘好像是’等字眼來(lái)描述AI的進(jìn)程、潛在目標(biāo)和預(yù)期結(jié)果。好像除此之外，報(bào)告別無(wú)他物?！?/p>

他提到，報(bào)告很好地進(jìn)入了公共輿論，這是它值得稱道的地方。但是這還遠(yuǎn)遠(yuǎn)不夠的，因?yàn)锳I周?chē)缫巡紳M了“炒作與反炒作”。他指出：

報(bào)告給出的分析、建議實(shí)際上都在指引著更多的資源流向AI領(lǐng)域，而這是學(xué)者和咨詢公司常用的一種策略。

“也許第四個(gè)建議才最能說(shuō)明問(wèn)題，即他們?cè)趯で蟾嗳说年P(guān)注和參與”，Jon Collins評(píng)論道。