人工智能打擊黑產(chǎn)初具成效，人工智能助力網(wǎng)絡安全建設

9 月 18 日，2018世界人工智能大會·人工智能安全高端對話在上海召開，活動由上海賽博網(wǎng)絡安全產(chǎn)業(yè)創(chuàng)新研究院和中國信息通信研究院安全研究所承辦，騰訊公司安全管理部、上海社會科學院互聯(lián)網(wǎng)研究中心和《探索與爭鳴》雜志社共同協(xié)辦。本次對話匯聚了全球人工智能安全領域的重量級學者、專家和產(chǎn)業(yè)精英，共同探討“AI+安全”領域的安全挑戰(zhàn)及應對之道。

上海社會科學院副院長王振主持論壇開幕式。中國互聯(lián)網(wǎng)發(fā)展基金會理事長馬利、上海市經(jīng)濟和信息化委員會巡視員陳躍華、中國信息通信研究院副院長王志勤以及騰訊信息安全執(zhí)行委員會主任、騰訊公司安全管理部副總經(jīng)理楊鵬出席活動并致辭。楊鵬表示騰訊一直致力于用“互聯(lián)網(wǎng)+”連接一切，強調(diào)科技應當為我所用，造福于人類，AI+安全的加號代表著一種“賦能”和“助力”的理念，要求其更好地利用人工智能，保障、維護好人工智能的安全問題，實現(xiàn)健康有序的發(fā)展。

會議重磅推出了三份人工智能安全專題報告，其中騰訊公司安全管理部和上海賽博網(wǎng)絡安全產(chǎn)業(yè)創(chuàng)新研究院聯(lián)合重磅推出《人工智能賦能網(wǎng)絡空間安全：模式與實踐》。該報告聚焦 AI 在安全場景的應用模式與案例，從風險演進和技術(shù)邏輯的視角闡述了網(wǎng)絡空間安全的內(nèi)涵和趨勢。引入安全防護范式，梳理出網(wǎng)絡系統(tǒng)、網(wǎng)絡內(nèi)容和物理網(wǎng)絡系統(tǒng) 3 個層面 14 個安全領域的 AI 應用情況，其中包括要解決的安全威脅，AI 技術(shù)如何應用的模式和具體實例 30 多個。

人工智能打擊黑產(chǎn)初具成效

隨著網(wǎng)絡信息技術(shù)全面普及以及數(shù)據(jù)價值的持續(xù)增長，網(wǎng)絡空間安全威脅持續(xù)嚴峻，且呈現(xiàn)出智能化、隱匿性、規(guī)?；奶攸c，這讓網(wǎng)絡空間安全的防御、檢測和響應面臨更大的挑戰(zhàn)。人工智能以其獨特的優(yōu)勢，正在各類安全場景中形成多種多樣的解決方案。

騰訊在運用人工智能打擊黑產(chǎn)方面，已經(jīng)有詐騙信息打擊、新型身份認證和網(wǎng)絡安全態(tài)勢感知等方面的應用。

在詐騙信息打擊方面，騰訊公司基于其黑產(chǎn)對抗經(jīng)驗技術(shù)和反欺詐 AI 模型建造能力，打造“賓果反詐騙防控系統(tǒng)”，通過大數(shù)據(jù)分析和機器自我學習總結(jié)、預測警情中作案手法、通信行為、網(wǎng)絡特征、資金流向等特點規(guī)律，從而能在詐騙事前、事中、事后等環(huán)節(jié)起到預警、分析作用。與警方開展合作，通過對合法獲取的警情、通信、網(wǎng)絡、金融等領域大數(shù)據(jù)的深度學習，賓果系統(tǒng)具有三項“自動能力”。一是可自動發(fā)現(xiàn)電信網(wǎng)絡詐騙犯罪行為并自動預警，配合警方開展預防勸阻措施提供助力;二是自動關(guān)聯(lián)作案工具，對有害賬戶進行自主收斂，賓果系統(tǒng)能夠充分依托騰訊公司安全體系和機制，在最短時間內(nèi)作出限權(quán)、封停等措施;三是可實現(xiàn)對電信網(wǎng)絡詐騙窩點、人群的智能聚類，為警方開展刑事打擊提供線索參考。

賓果反詐騙防控系統(tǒng)投入使用以來，全國重點詐騙區(qū)域詐騙號碼大幅下降接近70%，有效遏制了詐騙態(tài)勢蔓延;3月上線以來，預警超過50000起，準確率超過99%，覆蓋全國31個省區(qū)市，累計為民眾避免損失20億元。

新型身份認證的應用方面，基于數(shù)據(jù)挖掘和人工智能技術(shù)的新型身份認證綜合運用了數(shù)字簽名、設備指紋、時空碼、人臉識別等多項身份認證技術(shù)，目前在金融、社保、保險、電商、O2O、直播等行業(yè)均已有廣泛應用。騰訊守護者計劃基于長期積累的 AI 人工智能和神經(jīng)網(wǎng)絡的分析能力，引入多維度的動態(tài)驗證機制對抗相關(guān)黑產(chǎn)。

新型網(wǎng)絡安全態(tài)勢感知，是利用數(shù)據(jù)融合、數(shù)據(jù)挖掘、智能分析和可視化等技術(shù)，從宏觀角度實時直觀顯示網(wǎng)絡安全狀態(tài)，并對網(wǎng)絡安全趨勢做出預測，為網(wǎng)絡安全威脅預警和防護提供參考。

騰訊守護者計劃研發(fā)的智能金融安全感知系統(tǒng)“靈鯤”力爭對非法集資、金融傳銷等涉眾型金融犯罪“打早打小”，識別覆蓋率可達90%以上;騰訊反傳銷態(tài)勢感知系統(tǒng)通過海量數(shù)據(jù)的合法采集、自然語言處理等人工智能技術(shù)，全面分析匯總傳銷態(tài)勢，該系統(tǒng)目前已協(xié)助公安機關(guān)破獲了善心匯、五行幣、云在指尖、星火草原等涉嫌網(wǎng)絡傳銷案件。

人工智能也已經(jīng)廣泛應用于不同形態(tài)的網(wǎng)絡信息內(nèi)容治理中，騰訊研發(fā)的冰鑒系統(tǒng)引擎借助深度學習算法，開發(fā)應用了提供端到輸出端全鏈條鑒黃檢測服務，對于色情圖片的識別準確率達99.9%以上，并可通過不斷學習讓模型更加智能，大大提高不良信息內(nèi)容治理的效率。

人工智能助力車聯(lián)網(wǎng) 安全先行

騰訊科恩安全實驗室是全球知名且備受尊敬的安全研究團隊，致力于保障智能網(wǎng)聯(lián)汽車“大安全”。2016年曾通過移動網(wǎng)絡識別、準備和實施攻擊場景等技術(shù)成功發(fā)現(xiàn)特斯拉的重要漏洞，并遵循負責任的漏洞披露方式把漏洞威脅情況提交給特斯拉官方，供其完善智能防御系統(tǒng)，保障智能車輛安全。在當前智能攻防競爭態(tài)勢中，這種先于黑客發(fā)現(xiàn)漏洞的自主安全保障能力是極其需要的。

對話現(xiàn)場，科恩實驗室總監(jiān)呂一平表示，網(wǎng)聯(lián)汽車信息安全是汽車行業(yè)面臨的全新挑戰(zhàn)。他從科恩實驗室首次全球成功“遠程入侵”特斯拉的和對寶馬不同車型進行的全面測試經(jīng)驗，總結(jié)了智能網(wǎng)聯(lián)安全的4點思考：未來智能網(wǎng)聯(lián)汽車“大安全”=功能安全+信息安全;攻易守難，信息安全建設需要全局思維;信息安全將成為汽車品牌的重要能力; 信息安全將成為汽車行業(yè)的國防。

“AI+安全”展望：共同努力應對各類安全威脅

人工智能時代，網(wǎng)絡空間安全威脅全面泛化，如何利用人工智能思想和技術(shù)應對各類安全威脅，是國內(nèi)外產(chǎn)業(yè)界共同努力的方向。

在“AI+安全”領域，騰訊提出了 5 個未來展望：人工智能安全將成為人工智能產(chǎn)業(yè)發(fā)展最大藍海，人工智能的本體安全決定安全應用的發(fā)展進程，“人工”+“智能”將長期主導安全實踐，人工智能技術(shù)路線豐富將改善安全困境，網(wǎng)絡空間安全將驅(qū)動人工智能國際合作。

隨著智慧城市、工業(yè)互聯(lián)網(wǎng)、自動駕駛等將在未來十年普及，人工智能安全將成為產(chǎn)業(yè)發(fā)展的藍海。騰訊在運用人工智能賦能網(wǎng)絡空間安全方面，已經(jīng)積累了豐富的技術(shù)、模式與經(jīng)驗。

面對技術(shù)規(guī)范、行業(yè)標準、法律法規(guī)尚未健全的人工智能新領域，制定統(tǒng)一的安全監(jiān)測標準、安全防范架構(gòu)、安全評估體系需要各國參與共同協(xié)調(diào)，網(wǎng)絡空間安全成為人工智能國際間合作的重要領域。隨著人工智能技術(shù)日趨成熟，人工智能在“AI+安全”領域不僅能夠全面提高網(wǎng)絡空間各類威脅的響應和應對速度，而且能夠全面提高風險防范的預見性和準確性。