分析如何應(yīng)對未來人工智能安全的挑戰(zhàn)

據(jù)《紐約時(shí)報(bào)》報(bào)道，到2021年，全球AI網(wǎng)絡(luò)安全工作市場將見證350萬個(gè)未填補(bǔ)的網(wǎng)絡(luò)安全工作。此外，到2025年，市場規(guī)模預(yù)計(jì)將達(dá)到305億美元。

Synack最近的一份報(bào)告聲稱，將網(wǎng)絡(luò)安全人才和支持AI的技術(shù)相結(jié)合，可以使攻擊面的有效覆蓋范圍是傳統(tǒng)方法的20倍。但是，很難真正理解這些數(shù)字的含義。該主題的大部分內(nèi)容都使讀者自己去做所有的數(shù)學(xué)運(yùn)算，連接點(diǎn)并嘗試?yán)斫鈹?shù)字背后的實(shí)際問題，這是一項(xiàng)艱巨的任務(wù)。

當(dāng)今互聯(lián)網(wǎng)上最有趣的兩個(gè)主題是人工智能和網(wǎng)絡(luò)安全。您需要扎實(shí)的外賣和見識來融入當(dāng)今互連的數(shù)字經(jīng)濟(jì)。

人工智能的挑戰(zhàn)：網(wǎng)絡(luò)安全行業(yè)的觀點(diǎn)

消費(fèi)者技術(shù)協(xié)會（Consumer Technology Association）最近進(jìn)行的一項(xiàng)調(diào)查將AI的優(yōu)秀應(yīng)用程序確定為網(wǎng)絡(luò)安全，所有AI應(yīng)用程序中有44%用于檢測和阻止安全入侵。

另一方面，網(wǎng)絡(luò)犯罪分子越來越多地并且以創(chuàng)新方式將AI用作數(shù)字彈藥。它會產(chǎn)生強(qiáng)大的安全威脅，導(dǎo)致對網(wǎng)絡(luò)安全專家的需求增加。

在威脅方面，以下是我當(dāng)前的三大擔(dān)憂：

1.網(wǎng)絡(luò)安全威脅增加

2019年，《華爾街日報(bào)》報(bào)道稱，一群網(wǎng)絡(luò)犯罪分子向一家英國能源公司的首席執(zhí)行官索要22萬歐元。情節(jié)的一個(gè)有趣轉(zhuǎn)折：他們使用AI模仿了CEO的聲音。吸取的教訓(xùn)是？AI為網(wǎng)絡(luò)犯罪分子提供了額外的優(yōu)勢，可以繞過組織中的安全盲點(diǎn)。

2.網(wǎng)絡(luò)安全攻擊和數(shù)據(jù)泄露的數(shù)量和復(fù)雜性不斷提高

瓦羅尼斯（Varonis）進(jìn)行的一項(xiàng)研究將事情變成了現(xiàn)實(shí)：長話短說，基于AI的技術(shù)可以實(shí)現(xiàn)任務(wù)自動化，保護(hù)攻擊者的身份，在企業(yè)欺詐，akafakefake中產(chǎn)生下一個(gè)前沿領(lǐng)域，并以幾乎聞所未聞的速度和規(guī)模完善惡意服務(wù)（僅舉幾例）的。

3.由于更加依賴人工智能技術(shù)，（威脅）機(jī)會之窗

實(shí)際上，以AI為主導(dǎo)的技術(shù)可以雙向搖擺。視情況而定，有利于組織還是有利于網(wǎng)絡(luò)犯罪分子。組織可以通過使用新興技術(shù)和AI主導(dǎo)的軟件來增強(qiáng)其安全性。

具有諷刺意味的是，攻擊者可以通過臨時(shí)使用相同的技術(shù)來克服這些安全控制措施并處理日常任務(wù)，從而帶來更加復(fù)雜和相互關(guān)聯(lián)的風(fēng)險(xiǎn)。信不信由你，思科在2018年報(bào)告說，他們“代表客戶阻止了7萬億次威脅，或每天阻止200億次威脅?！碑?dāng)前，似乎我們陷入了脆弱的境地。

人工智能如何為網(wǎng)絡(luò)安全流程做出貢獻(xiàn)

凱捷（Capgemini）表示，三分之二的企業(yè)計(jì)劃在2020年之前采用AI解決方案。

盡管構(gòu)成了嚴(yán)重的威脅，但AI增強(qiáng)并補(bǔ)充了網(wǎng)絡(luò)安全優(yōu)秀實(shí)踐的未來。這是網(wǎng)絡(luò)安全領(lǐng)域中“ AI優(yōu)勢”的縮影：

減少了對威脅的響應(yīng)時(shí)間并降低了防范違規(guī)的成本

Synack聲稱“使用AI將評估漏洞的可破解性的時(shí)間縮短了73%?！贝送猓瑒P捷（Capgemini）研究的其他數(shù)據(jù)顯示，“四分之三的高管認(rèn)為，網(wǎng)絡(luò)安全中的AI可以加快漏洞響應(yīng)速度，包括檢測和補(bǔ)救。

大約有64%的人表示，這也降低了檢測和響應(yīng)的成本?！睂＜襅ayne McGladrey提出的AI解釋了這些數(shù)字可能意味著什么。與CIO交談時(shí)，她說：“ AI的毅力可以縮短發(fā)現(xiàn)時(shí)間，不需要假期，喝咖啡或睡覺。而且，與第1層安全運(yùn)營中心的分析師所不同的是，他們無休止地讀取日志文件和警報(bào)。

輕松執(zhí)行多任務(wù)

AI就像一個(gè)超級大國組織，可以通過多種方式使用-審查用戶行為，查找模式以及在安全網(wǎng)絡(luò)中查找違規(guī)行為，僅舉幾例。

增強(qiáng)的動態(tài)安全實(shí)踐

將AI與人工相結(jié)合可以幫助公司更快地發(fā)現(xiàn)和關(guān)閉關(guān)鍵漏洞，速度提高40%。此外，這使公司可以將精力集中在創(chuàng)建安全的“阻塞點(diǎn)”上，而不用花費(fèi)數(shù)百萬美元來保護(hù)整個(gè)工作環(huán)境。最后，通過使用AI來提高安全性，公司可以利用更大的回報(bào)并很大程度地降低風(fēng)險(xiǎn)-當(dāng)今公司越來越關(guān)注這一點(diǎn)。

最小化安全責(zé)任，獲得高質(zhì)量結(jié)果

人工智能通常被描述為智能，這是正確的。這項(xiàng)功能強(qiáng)大的技術(shù)可在許多應(yīng)用領(lǐng)域中幫助組織突出重復(fù)發(fā)生的事件并消除損害。

網(wǎng)絡(luò)安全中AI的前三大影響用例

1.梳理大量安全數(shù)據(jù)并自動執(zhí)行日常任務(wù)

網(wǎng)絡(luò)安全中較大的擔(dān)憂之一是組織每天必須處理的數(shù)據(jù)量龐大。這可能是Gmail選擇AI路由來每天阻止Seedcamp的CTO額外發(fā)送1億條垃圾郵件的原因之一，David Mytton關(guān)于AI如何破壞網(wǎng)絡(luò)安全領(lǐng)域的解釋已刻不容緩。Mytton的CIO說：“隨著越來越多的系統(tǒng)被安裝，問題從知道發(fā)生了某些事情轉(zhuǎn)移了。這是要強(qiáng)調(diào)“發(fā)生了不尋常的事情”。”

儀器化系統(tǒng)指的是-誰登錄以及何時(shí)登錄？什么下載了，什么時(shí)候下載？什么時(shí)候訪問了什么？

2.減少錯(cuò)誤的安全警報(bào)并捕獲異常事件

AI智能與威脅智能相結(jié)合，可以檢測并解決新的安全問題，與傳統(tǒng)的防病毒軟件相比，威脅檢測率為95%，而傳統(tǒng)的防病毒軟件的檢測率僅為90%，意味著惡意樣本的10%被錯(cuò)過了?！?/p>

同樣，F(xiàn)oley&Lardner LLP的合伙人Michael Overly向Digital Munition談到了以對時(shí)間敏感的方式解決這些遺漏威脅的好處，他說：“希望這些系統(tǒng)能夠很大程度地減少錯(cuò)誤警報(bào)和無關(guān)緊要的問題，只剩下很少的‘真實(shí)’威脅可以審查和解決?！?/p>

3.通過提供預(yù)測功能和提高效率來增強(qiáng)萬無一失的安全性

在阻止安全漏洞方面，AI很具創(chuàng)新性和最有效的應(yīng)用之一是使用生物特征認(rèn)證。科技巨頭蘋果公司使用這種方法，通常稱為“面部識別”。強(qiáng)大的人臉I(yè)D技術(shù)結(jié)合了內(nèi)置的紅外傳感器和神經(jīng)引擎來識別用戶。如果可以相信蘋果的說法，那么好處是巨大的，“只有百萬分之一的機(jī)會欺騙AI打開另一張面孔的設(shè)備?！?/p>

70%的安全專業(yè)人員表示，除了提供附加的安全層外，AI還使團(tuán)隊(duì)更高效，并且消除了多達(dá)55%的員工手動任務(wù)。通過附加的安全層，并幫助團(tuán)隊(duì)將精力集中在解決更重要的任務(wù)上，人工智能還為生產(chǎn)力提供了動力。幫助提高生產(chǎn)率可以降低所有參與人員的總體壓力水平。

人工智能安全的主要觀點(diǎn)和未來趨勢

訓(xùn)練AI驅(qū)動的系統(tǒng)來保護(hù)我們

關(guān)于AI如何全天候工作以確保企業(yè)安全的問題，我們已經(jīng)談了很多，但是技術(shù)本身的安全性和培訓(xùn)又如何呢？專家和企業(yè)需要將其策略重新集中在培訓(xùn)AI-ML模型上，以很大程度地發(fā)揮這些系統(tǒng)的價(jià)值。可以訓(xùn)練ML系統(tǒng)從歷史數(shù)據(jù)中學(xué)習(xí)并檢測異常。它們可以使公司有效地緩解和管理網(wǎng)絡(luò)攻擊。

AI是數(shù)字軍備競賽中閃亮的新武器

從提高安全防御能力到網(wǎng)絡(luò)安全流程的超自動化部分，人工智能將在防止網(wǎng)絡(luò)攻擊中發(fā)揮越來越重要的作用。

凱捷（Capgemini）最近報(bào)告說，“人工智能的采用將激增，三分之二（63%）的組織計(jì)劃在2020年之前采用人工智能”。

人工智能作為一種防御能力

如前所述，人工智能是一種可用于防御和攻擊組織的數(shù)字防御系統(tǒng)的技術(shù)。網(wǎng)絡(luò)安全專家需要一個(gè)小時(shí)的時(shí)間來主動識別攻擊（例如：垃圾電子郵件嘗試，禁用關(guān)鍵基礎(chǔ)設(shè)施等）并防御攻擊。

人工智能的局限性和可能的解決方案

“人工智能無法解決您所有的安全問題。認(rèn)為這是提高安全狀況的一種方法，而不是靈丹妙藥?！报C Akamai Technologies安全產(chǎn)品副總裁Raja Patel。

專家贊成由人類而非AI驗(yàn)證的發(fā)現(xiàn)

根據(jù)White Hat Security的研究，“60%的安全專業(yè)人員對人類驗(yàn)證的網(wǎng)絡(luò)威脅發(fā)現(xiàn)比對AI產(chǎn)生的發(fā)現(xiàn)更有信心。”其中，人類的智慧勝過AI在運(yùn)行的安全性過程中的頂4個(gè)地區(qū)均采用直覺，創(chuàng)造力，人的經(jīng)驗(yàn)，和幀的參考-進(jìn)化功能，AI是仍然需要證明，更不用說掌握。

顯然，當(dāng)前的網(wǎng)絡(luò)安全環(huán)境至少已將平衡權(quán)轉(zhuǎn)移到了人的能力上。解決方案？利用AI的技術(shù)實(shí)力來增強(qiáng)人才可能是可靠的前進(jìn)之路。IBM Security副總裁Aarti Borkar在Fast Company中寫道，企業(yè)可以接受的360度解決方案：

“防止人工智能內(nèi)部偏見的一種方法是建立認(rèn)知多樣性。開發(fā)AI模型的計(jì)算機(jī)科學(xué)家的多樣性，向其提供數(shù)據(jù)的數(shù)據(jù)以及影響它的安全團(tuán)隊(duì)?！?/p>

建立AI系統(tǒng)需要大量的資產(chǎn)和資源，例如內(nèi)存，準(zhǔn)確的數(shù)據(jù)集和計(jì)算能力。更不用說，這是一項(xiàng)昂貴且費(fèi)時(shí)的工作。

Osterman Research已很好地抓住了其他一些有關(guān)使用AI的擔(dān)憂：

展望未來，讓我們從整體角度看企業(yè)如何解決這些限制：

第一步是讓公司投資于擁有經(jīng)驗(yàn)豐富的專業(yè)人員的經(jīng)驗(yàn)豐富的網(wǎng)絡(luò)安全公司。

測試系統(tǒng)并審核您的硬件和軟件，以發(fā)現(xiàn)并主動修復(fù)安全漏洞。

安裝并不斷更新防火墻和其他惡意軟件掃描程序，以確保系統(tǒng)安全。

查看最新的網(wǎng)絡(luò)威脅和安全協(xié)議以區(qū)分風(fēng)險(xiǎn)優(yōu)先級并制定有效的策略。

人工智能驅(qū)動的未來網(wǎng)絡(luò)安全：專家演講

我們已經(jīng)畫出了數(shù)字并進(jìn)行了分析。但是專家們對AI在網(wǎng)絡(luò)安全中的普遍性和相關(guān)性有何看法？讓我們來看看《福布斯》中收集的一些專家意見為我們繪制的圖片：

首先使用該技術(shù)的人會做主

薩米萊恩在1563技術(shù)戰(zhàn)略總監(jiān)說：“我們將會看到威脅者使用deepfakes作為一種策略為企業(yè)的網(wǎng)絡(luò)攻擊，類似于網(wǎng)絡(luò)釣魚攻擊是如何運(yùn)作的。網(wǎng)絡(luò)釣魚攻擊是網(wǎng)絡(luò)騙子的金錢之源，它們可能對毫無戒心的員工造成嚴(yán)重破壞。

這意味著組織將需要使驗(yàn)證技術(shù)保持最新狀態(tài);創(chuàng)建深造和檢測深造的工具將是相同的。因此，對于誰先使用這項(xiàng)技術(shù)將是一場軍備競賽?！?/p>

Deepfakes即服務(wù)的興起

Forcepoint創(chuàng)新總監(jiān)Audra Simons提出了一個(gè)有趣的觀點(diǎn)：“隨著深度假貨的真實(shí)性和潛力不斷增加，我們希望其在2020年對我們生活的各個(gè)方面產(chǎn)生顯著影響。

我們將會看到Deepfakes-As-A-Service會在2020年脫穎而出，原因是出于娛樂和惡意原因，Deepfakes被廣泛采用?！?/p>

在防御性網(wǎng)絡(luò)安全游戲中，防御性方面的工作被削減了

Darktrace戰(zhàn)略威脅總監(jiān)Marcus Fowler解釋了與AI對抗AI的方式：“隨著2020年以AI為動力的網(wǎng)絡(luò)攻擊的興起，更完善的防御措施和對開源AI工具的訪問已到位激勵(lì)對手加強(qiáng)攻擊。

人工智能不僅可以使惡意軟件在企業(yè)內(nèi)部秘密移動，而無需人工操作，而且攻擊者還將以其他惡意方式使用人工智能，包括確定目標(biāo)，進(jìn)行偵察和擴(kuò)大攻擊范圍。

安全專家認(rèn)識到，防御性AI是唯一能夠抵抗攻擊性AI攻擊的力量。而且必須通過匹配或超越攻擊者的創(chuàng)新速度來進(jìn)行戰(zhàn)斗。”

虛假信息和假新聞的出現(xiàn)

Radware的安全研究員Pascal Geenens談到了這個(gè)困擾全球組織和國家的熱門話題：“虛假信息和虛假新聞可能在公共和私營部門中肆虐，并且越來越多地被民族國家用作武器。

2020年，深度學(xué)習(xí)算法可以帶來偽造但看似逼真的圖像和視頻的生成。AI的這種應(yīng)用將成為大規(guī)模信息傳播活動的催化劑。”

數(shù)字化對AI和網(wǎng)絡(luò)安全的影響

Nok Nok Labs總裁兼首席執(zhí)行官Phil Dunkelberger總結(jié)了數(shù)字化的增長將如何影響組織，網(wǎng)絡(luò)犯罪分子，政府和整個(gè)世界：“隨著2020年數(shù)字化的繼續(xù)，數(shù)據(jù)將比以往任何時(shí)候都更有價(jià)值。以前對于日常消費(fèi)者而言似乎微不足道的信息將對整個(gè)領(lǐng)域的利益相關(guān)者和黑客具有重大價(jià)值。

對手或現(xiàn)實(shí)生活中的“數(shù)據(jù)賞金獵人”將尋找新的利用方式，政府將尋求更好的方式來訪問它，企業(yè)將采取更強(qiáng)的安全措施來保護(hù)它，最終用戶將要求更好的隱私權(quán)來保護(hù)其個(gè)人安全信息。

此外，隨著AI和機(jī)器學(xué)習(xí)的興起，影響醫(yī)療決策方式，自動駕駛汽車在何處/如何移動的關(guān)鍵數(shù)據(jù)。而且，越來越多的東西將成為越來越主流的東西，并且越來越多的威脅者希望獲得信息。”

網(wǎng)絡(luò)安全的第一道和最后一道防線

無論采用哪種方式進(jìn)行這些都特別是一項(xiàng)關(guān)鍵的學(xué)習(xí)。“人工智能還沒有準(zhǔn)備好在不久的將來單飛?！逼髽I(yè)和專家都更樂于采用“中間立場”方法。人工智能可用作增強(qiáng)人類智能的智能工具。并幫助組織在網(wǎng)絡(luò)安全威脅不斷擴(kuò)大的世界中保持競爭力和安全性。簡而言之，人工智能的優(yōu)勢遠(yuǎn)遠(yuǎn)超過了局限性，并提供了一種有希望的（安全的）方法。你覺得呢？你有沒有什么想法？