阿里發(fā)布安全基建大圖，安全AI從概念到落地

前言：

新基建從一開始就要考慮采用我國安全可控的信息技術(shù)體系，形成新一代安全架構(gòu)，以保證基礎(chǔ)設(shè)施的安全。隨著新基建的持續(xù)推進(jìn)，網(wǎng)絡(luò)安全的影響也會(huì)越來越深入，網(wǎng)絡(luò)安全是發(fā)展好新基建的前提。

新基建需要新安全

不管是智慧城市發(fā)展還是現(xiàn)代化治理，以及當(dāng)前的數(shù)字經(jīng)濟(jì)新模式新業(yè)態(tài)發(fā)展，都需要數(shù)字安全來保證。

在數(shù)據(jù)平臺(tái)層面，要求數(shù)據(jù)運(yùn)營(yíng)平臺(tái)建立數(shù)據(jù)備份和防攻擊體系，防止人為破壞和意外事故造成數(shù)據(jù)丟失與泄露，健全網(wǎng)絡(luò)安全風(fēng)險(xiǎn)評(píng)估和管理制度等。在技術(shù)研究層面，要加快研究密碼學(xué)、可信計(jì)算、加密數(shù)據(jù)的通信系統(tǒng)，以及基于區(qū)塊鏈的新型數(shù)據(jù)加密技術(shù)等。

在市場(chǎng)應(yīng)用層面，形成市場(chǎng)與政府協(xié)同管理機(jī)制，確保數(shù)據(jù)從采集到應(yīng)用再到交易等環(huán)節(jié)的安全可控。

新基建重中之重是要構(gòu)建安全防護(hù)體系建設(shè)， 5G網(wǎng)絡(luò)、云計(jì)算、大數(shù)據(jù)、工業(yè)控制、物聯(lián)網(wǎng)等，關(guān)鍵是要在五個(gè)方面的可信：體系架構(gòu)不能變；資源配置不能篡改；操作行為（可信）不能攻擊；確保數(shù)據(jù)的可信；策略管理要可信，不能被篡改。

歸根結(jié)底，網(wǎng)絡(luò)安全取決于新技術(shù)帶來的新的安全問題。新形勢(shì)下，網(wǎng)絡(luò)安全不再是事后應(yīng)對(duì)的問題，僅靠原來防火墻等方法論，顯然無法解決新基建帶來的新挑戰(zhàn)。

阿里發(fā)布安全基建大圖

今年3月，阿里發(fā)布數(shù)字基建新一代安全架構(gòu)。從實(shí)戰(zhàn)出發(fā)進(jìn)行安全基建，讓安全能力和業(yè)務(wù)數(shù)字化建設(shè)實(shí)現(xiàn)同步，是新一代安全架構(gòu)的核心理念。

近日，阿里安全新一代安全架構(gòu)，正式對(duì)外發(fā)布了全新的安全基建大圖及應(yīng)用安全企業(yè)標(biāo)準(zhǔn)，為整個(gè)產(chǎn)業(yè)的安全能力建設(shè)，提供了可快速復(fù)制的參考樣板。

阿里發(fā)布的新一代安全架構(gòu)主要包括安全技術(shù)、安全基建和安全運(yùn)營(yíng)三層核心。安全技術(shù)層是安全底層能力的集合，向上支持安全基建層，安全基建層將能力沉淀為標(biāo)準(zhǔn)體系及配套的流程、產(chǎn)品，形成安全中臺(tái)，通過中臺(tái)建立可信的應(yīng)用體系，達(dá)到風(fēng)險(xiǎn)預(yù)防免疫的效果。

作為三層核心架構(gòu)中的重心，安全基建層的作用是在數(shù)字經(jīng)濟(jì)實(shí)體搭建過程中，建立標(biāo)準(zhǔn)化流程、引入關(guān)鍵技術(shù)，解決數(shù)字經(jīng)濟(jì)實(shí)體搭建的“安全施工標(biāo)準(zhǔn)”問題。

在安全基建大圖中，應(yīng)用安全企業(yè)標(biāo)準(zhǔn)主要定義了應(yīng)用安全從能力到產(chǎn)品、產(chǎn)品到流程、流程觸達(dá)用戶的要求與建設(shè)方案。

其主要包括完備應(yīng)用安全流程、構(gòu)建相應(yīng)管理機(jī)制、建設(shè)度量體系和為規(guī)范確認(rèn)執(zhí)行細(xì)節(jié)等四個(gè)部分。

應(yīng)用安全與人的安全意識(shí)緊密相關(guān)。參與安全基建大圖設(shè)計(jì)的阿里安全高級(jí)產(chǎn)品運(yùn)營(yíng)專家岑汐認(rèn)為，歸根結(jié)底還是安全教育的問題，應(yīng)該加強(qiáng)打造以安全技術(shù)和安全意識(shí)為中心的基建能力。

安全基建在新零售事業(yè)部的實(shí)踐中，共計(jì)發(fā)現(xiàn)并完成整改282項(xiàng)風(fēng)險(xiǎn)，在企標(biāo)、紅線及配套體系產(chǎn)品落地后，萬行代碼引入漏洞數(shù)斷崖式下降56％。

安全AI從概念到落地

去年12月，阿里安全提出“安全AI”概念，指出安全和AI是互相促進(jìn)的有機(jī)體。一方面，AI技術(shù)應(yīng)用在安全領(lǐng)域，可以讓安全能力更智能；另一方面，安全技術(shù)應(yīng)用在AI領(lǐng)域，可以讓AI能力更可靠。

阿里安全認(rèn)為，安全技術(shù)在經(jīng)歷了專家運(yùn)營(yíng)階段、數(shù)據(jù)智能階段后，已經(jīng)迎來的安全AI階段。在安全AI階段，更多的安全識(shí)別、決策、處置等關(guān)鍵動(dòng)作將主要依靠AI來實(shí)現(xiàn)。

目前，阿里安全正在做的是，主動(dòng)挖掘機(jī)器學(xué)習(xí)算法的安全漏洞，以期構(gòu)建更加安全和可信的AI系統(tǒng)，并發(fā)展新的機(jī)器學(xué)習(xí)算法，逐步將AI的安全問題體系化、標(biāo)準(zhǔn)化。

在今年CVPR 2020關(guān)于行為檢測(cè)AI的兩項(xiàng)賽道任務(wù)中，阿里和華科大聯(lián)手提出的解決方案不僅獲得了雙料冠軍，并以平均均值精度（mAP）42．788％的性能一舉打破眾多頂尖科技公司、科研院校去年無法突破40％的瓶頸，在AI視覺領(lǐng)域帶來新的可能。

行為檢測(cè)AI經(jīng)過長(zhǎng)時(shí)間打磨，在阿里安達(dá)實(shí)驗(yàn)室的多媒體AI和安全審核等系統(tǒng)中布局成為安全AI的核心組件之一。

行為檢測(cè)AI在體育、直播、影視傳媒和安防領(lǐng)域有廣闊的應(yīng)用前景，比如精彩動(dòng)作檢測(cè)、智能集錦生成、介紹商品行為，以及通用動(dòng)作檢測(cè)識(shí)別、多模態(tài)搜索、異常動(dòng)作檢測(cè)等。

安全架構(gòu)理念促進(jìn)技術(shù)開發(fā)

阿里安全的新一代安全架構(gòu)的應(yīng)用成果促進(jìn)了AI技術(shù)的發(fā)展和進(jìn)步，為新一代人工智能的理論方法研究提供了支持。

基于從源頭打造安全免疫力的新一代安全架構(gòu)理念，最近，阿里安全發(fā)布了一項(xiàng)核心技術(shù)“AI安全診斷大師”，可對(duì)AI模型全面體檢，讓AI模型出生就自帶增強(qiáng)型免疫力，抵御安全威脅。

它提供了全方位的體檢與診斷開方服務(wù)，對(duì)AI模型進(jìn)行體檢后，通過診斷算法可能出錯(cuò)的特殊情形，給模型防御增強(qiáng)提供細(xì)化指導(dǎo)。

其提供了一個(gè)可視化界面，以模型的損失曲面分析圖呈現(xiàn)被評(píng)估AI模型的輸入擾動(dòng)及響應(yīng)表現(xiàn)，可以直觀地看出AI模型的總體安全性能，曲面越平緩，AI遭遇攻擊時(shí)，抵御攻擊的能力更強(qiáng)。

“AI安全診斷大師”檢測(cè)到算法服務(wù)的潛在安全風(fēng)險(xiǎn)后，還有針對(duì)惡意攻擊的防火墻功能，定制化提供防御升級(jí)的建議。

經(jīng)過在色情、暴恐、敏感圖像識(shí)別等多種內(nèi)容安全服務(wù)上的測(cè)試，可將模型對(duì)外部攻擊的有效防御能力整體提升40％以上。

結(jié)尾：

未來基于新基建下的智慧城市、智慧社區(qū)和智慧生活，雖然會(huì)體驗(yàn)到互聯(lián)網(wǎng)帶來的便利性，但同時(shí)也要承受網(wǎng)絡(luò)安全帶來的挑戰(zhàn)，未來新基建的基礎(chǔ)應(yīng)該是網(wǎng)絡(luò)安全。

網(wǎng)絡(luò)安全絕對(duì)是未來新基建最重要的基石，想要人們體驗(yàn)智慧城市帶來的完美體驗(yàn)，就必須完善網(wǎng)絡(luò)安全體系。
責(zé)編AJX