AI檢測(cè)系統(tǒng)真的可以捕獲和糾正漏洞嗎？

大多數(shù)網(wǎng)絡(luò)安全事件是軟件代碼錯(cuò)誤的結(jié)果，黑客有名的零日攻擊，利用未知的漏洞滲透到計(jì)算機(jī)系統(tǒng)，Stuxnet是針對(duì)伊朗鈾濃縮計(jì)劃中的計(jì)算機(jī)病毒，是零日攻擊的著名例子。

然而，每年寫(xiě)入數(shù)十億行代碼，捕獲和糾正每個(gè)系統(tǒng)漏洞都很困難。美國(guó)和中國(guó)的研究人員認(rèn)為人工智能或許可以提供解決方案。

到目前為止，隨著漏洞的數(shù)量不斷增加，人力已大大跟不上進(jìn)度。美國(guó)軍方研究機(jī)構(gòu)國(guó)防高級(jí)研究計(jì)劃局（Defense Advanced Research Projects Agency）的項(xiàng)目經(jīng)理桑迪普·尼瑪（Sandeep Neema）表示：“軟件中的漏洞并沒(méi)有減少，這是令人擔(dān)憂和具有挑戰(zhàn)性的?！痹摍C(jī)構(gòu)已花費(fèi)數(shù)百萬(wàn)美元資助開(kāi)發(fā)人工智能系統(tǒng)用來(lái)檢測(cè)軟件缺陷。

當(dāng)前的軟件檢查技術(shù)有點(diǎn)像文字處理器中的拼寫(xiě)檢查，識(shí)別印刷或語(yǔ)法錯(cuò)誤。在將新軟件付諸實(shí)踐之前，開(kāi)發(fā)人員通常還會(huì)審查彼此的代碼并運(yùn)行測(cè)試。

“就我們?nèi)绾翁岣哕浖|(zhì)量而言，最先進(jìn)的技術(shù)仍然是測(cè)試驅(qū)動(dòng)的，”Neema先生說(shuō)。這些方法的問(wèn)題在于沒(méi)有發(fā)現(xiàn)許多錯(cuò)誤，即使開(kāi)發(fā)時(shí)間的50％到75％通常用于測(cè)試。AIbug探測(cè)器有望使開(kāi)發(fā)人員的審查代碼更準(zhǔn)確，減少勞動(dòng)強(qiáng)度。

“它確實(shí)減少了花在尋找那些高優(yōu)先級(jí)漏洞上的時(shí)間，”機(jī)器學(xué)習(xí)科學(xué)家Rebecca Russell說(shuō)道，她在Drapa實(shí)驗(yàn)室?guī)椭O(shè)計(jì)的人工智能系統(tǒng)得到了Darpa的資助。根據(jù)Russell女士及其同事今年夏天發(fā)表的一篇研究論文，Draper的系統(tǒng)掃描軟件以識(shí)別程序的哪些部分包含漏洞，其性能優(yōu)于使用靜態(tài)分析的三種工具，這是最好的軟件審查方法之一。

該項(xiàng)目的技術(shù)總監(jiān)Marc McConley表示，該實(shí)驗(yàn)室目前正在與美國(guó)國(guó)防部的各個(gè)部門合作，以尋找該技術(shù)的應(yīng)用。“他們主要擔(dān)心的是保護(hù)他們的大型軟件系統(tǒng)免受網(wǎng)絡(luò)攻擊，”

雖然這項(xiàng)研究處于初期階段，但德雷珀還在開(kāi)發(fā)能夠自動(dòng)修復(fù)軟件故障的人工智能。多倫多大學(xué)計(jì)算機(jī)科學(xué)助理教授范龍也從事自動(dòng)軟件修復(fù)工作，他表示，未來(lái)幾年可能會(huì)出現(xiàn)商業(yè)上可行的自動(dòng)修復(fù)常規(guī)錯(cuò)誤的工具?！敖鉀Q許多這些錯(cuò)誤并不是很有創(chuàng)意，人們往往會(huì)在類似的系統(tǒng)上犯同樣的錯(cuò)誤，“龍教授說(shuō)。

中國(guó)的國(guó)家機(jī)構(gòu)也資助了研究，以生產(chǎn)AI錯(cuò)誤檢測(cè)系統(tǒng)。德克薩斯大學(xué)圣安東尼奧分校的計(jì)算機(jī)科學(xué)教授Shouhuai Xu表示，當(dāng)對(duì)四種“非常廣泛使用的”商業(yè)軟件產(chǎn)品進(jìn)行測(cè)試時(shí)，該系統(tǒng)發(fā)現(xiàn)了10個(gè)尚未檢測(cè)到的漏洞，該系統(tǒng)由一組學(xué)者開(kāi)發(fā)。

這些隱藏在存在安全風(fēng)險(xiǎn)的缺陷上的工具仍處于開(kāi)發(fā)階段，但一些公司已經(jīng)在使用AI進(jìn)行一般軟件掃描。例如，視頻游戲制造商育碧（Ubisoft）在3月份發(fā)布了一款工具，該工具使用AI在實(shí)施之前標(biāo)記可能存在錯(cuò)誤的代碼。該公司總部位于蒙特利爾的研究實(shí)驗(yàn)室負(fù)責(zé)人Yves Jacquier表示，他們的工具在測(cè)試期間將開(kāi)發(fā)時(shí)間縮短了20％，并且公司計(jì)劃在今年年底之前進(jìn)行“重大”推廣。

Darpa關(guān)于錯(cuò)誤檢測(cè)的工作是一個(gè)名為Muse的程序的一部分，該程序還在更廣泛的類別中稱為“大代碼”，以促進(jìn)AI研究。該字段基于與“大數(shù)據(jù)”大致相同的原則，檢查大量代碼庫(kù)以生成見(jiàn)解并學(xué)習(xí)如何編寫(xiě)更好的代碼。它旨在通過(guò)創(chuàng)建首先具有較少缺陷的代碼來(lái)解決另一方面的軟件問(wèn)題。