如何預(yù)防黑客攻擊人工智能和機(jī)器學(xué)習(xí)

　　阻止勒索軟件已成為許多組織的優(yōu)先事項(xiàng)。因此，他們正在轉(zhuǎn)向人工智能（AI）和機(jī)器學(xué)習(xí)（ML）作為他們的防御選擇。然而，威脅者也正在轉(zhuǎn)向人工智能和ML來(lái)發(fā)動(dòng)他們的攻擊。一種特定類型的攻擊，即數(shù)據(jù)中毒，就利用了這一點(diǎn)。

　　為什么AI和ML有風(fēng)險(xiǎn)

　　像任何其他技術(shù)一樣，人工智能是一個(gè)雙刃劍。YouAttest的首席執(zhí)行官Garret Grajek在一次電子郵件采訪中說(shuō)，人工智能模型擅長(zhǎng)處理大量數(shù)據(jù)并得出 “最佳猜測(cè)”。

　　他說(shuō)：“黑客已經(jīng)使用AI來(lái)攻擊身份驗(yàn)證和身份驗(yàn)證，包括語(yǔ)音和可視化黑客攻擊?！?““武器化的AI”致力于獲取訪問(wèn)密鑰?！?/p>

　　康奈爾大學(xué)的研究人員解釋說(shuō)：“專業(yè)數(shù)據(jù)中毒是對(duì)機(jī)器學(xué)習(xí)的有效攻擊，并且通過(guò)將中毒數(shù)據(jù)引入訓(xùn)練數(shù)據(jù)集來(lái)威脅模型完整性?！?/p>

　　是什么使通過(guò)AI和ML進(jìn)行的攻擊不同于典型的“系統(tǒng)中的錯(cuò)誤”攻擊？Marcus Comiter在哈佛大學(xué)Belfer科學(xué)與國(guó)際事務(wù)中心的論文中說(shuō)，這些算法存在固有的局限性和弱點(diǎn)，無(wú)法解決。

　　“ AI攻擊從根本上擴(kuò)展了可用于執(zhí)行網(wǎng)絡(luò)攻擊的實(shí)體的集合，” Comiter補(bǔ)充說(shuō)?！坝惺芬詠?lái)第一次，物理對(duì)象現(xiàn)在可以用于網(wǎng)絡(luò)攻擊。還可以使用這些攻擊以新的方式將數(shù)據(jù)武器化，要求改變數(shù)據(jù)的收集，存儲(chǔ)和使用方式?！?/p>

　　人為錯(cuò)誤

　　為了更好地了解威脅者如何利用AI和ML作為數(shù)據(jù)中毒和其他攻擊的攻擊載體，我們需要更清楚地了解他們?cè)诒Ｗo(hù)數(shù)據(jù)和網(wǎng)絡(luò)方面的作用。

　　問(wèn)問(wèn)首席信息安全官，對(duì)一個(gè)組織的數(shù)據(jù)最大的威脅是什么，他們往往會(huì)告訴你是人性。

　　員工并不打算成為網(wǎng)絡(luò)風(fēng)險(xiǎn)，但他們是人。人是可以分心的。他們今天錯(cuò)過(guò)了一個(gè)昨天就能輕易避免的威脅。一個(gè)急于趕截稿并期待得到一份重要文件的員工可能最終點(diǎn)擊了一個(gè)受感染的附件，誤以為那是他們需要的文件?；蛘撸瑔T工可能根本沒(méi)有意識(shí)到，因?yàn)樗麄兊陌踩庾R(shí)培訓(xùn)太不連貫，沒(méi)有留下印象。威脅者知道這一點(diǎn)，并且像任何好的罪犯一樣，他們正在尋找進(jìn)入網(wǎng)絡(luò)和獲取數(shù)據(jù)的最簡(jiǎn)單方法。網(wǎng)絡(luò)釣魚(yú)攻擊之所以如此普遍，是因?yàn)樗鼈兎浅：糜谩?/p>

　　使用異常行為作為風(fēng)險(xiǎn)因素

　　這就是AI和ML惡意軟件檢測(cè)發(fā)揮作用的地方。這些技術(shù)找到模式并分析用戶行為，在其變成問(wèn)題之前嗅出奇怪的行為。通過(guò)應(yīng)用生成的算法，ML識(shí)別出人類不可能做到的異常行為。例如，它可以檢測(cè)到一個(gè)員工的正常工作日或他們的擊鍵節(jié)奏，并為不正常的事情設(shè)置警報(bào)。

　　當(dāng)然，這并不完美。有人可能在正常工作時(shí)間之外工作，或者有影響他們打字方式的傷病。但這些工具的設(shè)計(jì)是為了捕捉一些不尋常的東西，例如威脅者使用被盜的證書(shū)。

　　充其量，我們可以使用AI通過(guò)告訴無(wú)監(jiān)督計(jì)算機(jī)和網(wǎng)絡(luò)上真實(shí)文件與惡意文件之間的區(qū)別，阻止對(duì)不良文件的訪問(wèn)來(lái)更好地保護(hù)網(wǎng)絡(luò)免受勒索軟件攻擊。AI可以嗅探影子IT，告訴威脅的授權(quán)連接，并深入了解員工使用的端點(diǎn)數(shù)量。

　　為了使AI和ML成功應(yīng)對(duì)網(wǎng)絡(luò)威脅，他們依賴于在指定時(shí)間段內(nèi)創(chuàng)建的數(shù)據(jù)和算法。這樣一來(lái)，他們就可以有效地發(fā)現(xiàn)問(wèn)題（并使安全團(tuán)隊(duì)騰出時(shí)間來(lái)執(zhí)行其他任務(wù)）。這也是威脅。AI和ML的上升直接導(dǎo)致了數(shù)據(jù)中毒的潛在威脅。

　　了解數(shù)據(jù)中毒

　　有兩種毒害數(shù)據(jù)的方法。一種是將信息注入系統(tǒng)，以便它返回錯(cuò)誤的分類。從表面上看，對(duì)算法進(jìn)行毒化看起來(lái)并不那么困難。畢竟，AI和ML只知道人們教給他們什么。想象一下，您正在訓(xùn)練一種算法來(lái)識(shí)別馬匹。您可能會(huì)顯示數(shù)百?gòu)堊厣R的圖片。同時(shí)，您教它通過(guò)看數(shù)百?gòu)埡诎啄概５膱D片來(lái)識(shí)別母牛。但是，當(dāng)一頭棕色的母牛滑入數(shù)據(jù)集中時(shí)，機(jī)器會(huì)將其標(biāo)記為一匹馬。對(duì)于該算法，棕色動(dòng)物就是一匹馬。人類將能夠識(shí)別出差異，但是除非算法指定母牛也可以是棕色，否則機(jī)器將無(wú)法識(shí)別。

　　如果威脅行動(dòng)者訪問(wèn)了訓(xùn)練數(shù)據(jù)，則他們可以操縱該信息以向AI和ML講授他們想要的任何東西。他們可以使他們將良好的軟件代碼視為惡意代碼，反之亦然。攻擊者可以重建人類行為數(shù)據(jù)，以發(fā)起社會(huì)工程學(xué)攻擊或確定使用勒索軟件攻擊的目標(biāo)。

　　威脅參與者的第二種方式可以利用訓(xùn)練數(shù)據(jù)來(lái)生成后門。

　　黑客可能會(huì)使用AI來(lái)幫助選擇最值得利用的漏洞。因此，可以將惡意軟件放置在企業(yè)中，在這些企業(yè)中，惡意軟件本身可以決定攻擊的時(shí)間以及最佳的攻擊媒介。這些攻擊（根據(jù)設(shè)計(jì)，是可變的），使得檢測(cè)起來(lái)更加困難和時(shí)間更長(zhǎng)?！?Grajek說(shuō)。

　　攻擊者如何使用數(shù)據(jù)中毒

　　數(shù)據(jù)中毒需要注意的重要一點(diǎn)是，威脅參與者需要訪問(wèn)數(shù)據(jù)培訓(xùn)程序。因此，您可能正在面對(duì)內(nèi)部攻擊，商業(yè)競(jìng)爭(zhēng)對(duì)手或民族國(guó)家的攻擊。

　　Bruce Draper博士在DARPA研究項(xiàng)目中寫(xiě)道： “對(duì)抗性AI的當(dāng)前研究重點(diǎn)在于那些無(wú)法感知的ML輸入擾動(dòng)可能欺騙ML分類器，從而改變其響應(yīng)的方法?！?“盡管對(duì)抗性AI領(lǐng)域還比較年輕，但已經(jīng)提出了數(shù)十種攻擊和防御措施，目前還缺乏對(duì)ML漏洞的全面理論理解。”

　　攻擊者還可以使用數(shù)據(jù)中毒來(lái)使惡意軟件更智能。威脅參與者使用它克隆短語(yǔ)來(lái)欺騙算法來(lái)破壞電子郵件?，F(xiàn)在，它甚至進(jìn)入了生物識(shí)別技術(shù)，攻擊者可以在其中鎖定合法用戶并潛入。

　　數(shù)據(jù)中毒和深度偽造

　　深度欺詐是一種數(shù)據(jù)中毒的水平，許多人預(yù)計(jì)這將是數(shù)字犯罪的下一波浪潮。攻擊者編輯視頻，圖片和錄音以制作逼真的圖像。因?yàn)樗鼈兛赡鼙缓芏嗳苏`認(rèn)為是真實(shí)的照片或視頻，所以它們是勒索或?qū)擂蔚某墒旒夹g(shù)。正如科米特指出的那樣，在公司層面使用這種方法的一種變體也可能導(dǎo)致人身危險(xiǎn)。

　　他寫(xiě)道：“人工智能攻擊可以在自動(dòng)駕駛汽車的眼睛上將停車標(biāo)志變成綠燈，只需在停車標(biāo)志本身上放幾條膠帶即可。”

　　假新聞也屬于數(shù)據(jù)中毒。社交媒體中的算法已損壞，以允許不正確的信息上升到一個(gè)人的新聞提要的頂部，從而取代了真實(shí)的新聞來(lái)源。

　　阻止數(shù)據(jù)中毒攻擊

　　數(shù)據(jù)中毒仍處于起步階段，因此網(wǎng)絡(luò)防御專家仍在學(xué)習(xí)如何最好地防御這種威脅。滲透測(cè)試和進(jìn)攻性安全測(cè)試可能會(huì)導(dǎo)致發(fā)現(xiàn)漏洞，使外部人員可以訪問(wèn)數(shù)據(jù)培訓(xùn)模型。一些研究人員還正在考慮設(shè)計(jì)AI和ML的第二層，以捕獲數(shù)據(jù)訓(xùn)練中的潛在錯(cuò)誤。當(dāng)然，具有諷刺意味的是，我們需要一個(gè)人來(lái)測(cè)試AI算法，并檢查一頭母牛是一頭母牛而不是一匹馬。

　　“人工智能只是攻擊者武器庫(kù)中的又一武器，”格雷厄克說(shuō)。黑客仍將希望在整個(gè)企業(yè)范圍內(nèi)遷移，提升其執(zhí)行任務(wù)的特權(quán)。持續(xù)不斷的實(shí)時(shí)特權(quán)升級(jí)監(jiān)控對(duì)于幫助緩解是否由AI造成的攻擊至關(guān)重要?！?br /> 責(zé)編AJX