AI時代下，安全問題不容忽視！

國家網絡安全宣傳周收營，同往年一樣，總有些話題格外引人議論和關注。今年，人們看到在人工智能技術的支持下，我們正在共同構筑一個更為安全的世界。

針對這個網絡安全的新命題，騰訊信息安全執(zhí)行委員會主任、騰訊公司安全管理部副總經理楊鵬表示，人工智能技術路線豐富將改善安全困境，但人工智能的本體安全決定安全應用的發(fā)展進程。

沒有一個國家可獨立應對AI安全考驗

隨著網絡空間安全呈現出智能化、隱匿性、規(guī)?；奶攸c，讓網絡空間安全的防御、檢測和響應面臨更大的挑戰(zhàn)，網絡空間安全成為人工智能國際間合作的重要領域。

“就如一枚硬幣的兩面，人工智能既帶來好處，也帶來風險，它對國家安全的影響非常大，大到我們現在都無法確定?！甭摵蠂斯ぶ悄芎?a href="http://ttokpm.com/soft/data/42-101/" target="_blank">機器人中心主任伊萊克利。伯利茲在接受記者采訪時強調，人工智能為解決網絡安全事件、系統漏洞、信息保護等提供了更加高效、智慧的解決方案，但同時也容易被非法利用。

伊萊克利。伯利茲說：“面對技術規(guī)范、行業(yè)標準、法律法規(guī)尚未健全的人工智能新領域，為了消除不透明和分歧，避免惡意的競爭，應對現階段人工智能的發(fā)展充分評估，并建立起各方參與的協同合作模式，制定統一的安全監(jiān)測標準、安全防范架構、安全評估體系。沒有任何一個國家，可以獨立完成這件事?！?/p>

當人工智能越來越多地被應用到戰(zhàn)略決策輔助系統和智能軍事系統，基于人工智能的技術代差將對國家安全力量對比產生不可逆的影響，迫切需要審視人工智能對維護國家安全提出的新要求。

上海賽博網絡安全產業(yè)創(chuàng)新研究院和上海社科院互聯網研究中心的聯合課題組發(fā)布的《人工智能時代的國家安全：風險與治理》報告提出，應從提升風險意識、完善治理體系、加強監(jiān)管能力和探求國際合作等來構建風險分析和應對框架，提升國家安全的韌性。

對抗還是對抗手段卻在升級

雖然安全對抗本質上就是看誰鑄的門檻更高，但人工智能時代也讓黑客們迎來狂歡，為安全產業(yè)帶來顛覆性影響。

中國信息通信研究院副院長王志勤“2018世界人工智能大會·人工智能安全高端對話”上特別強調：“人工智能的發(fā)展要趨利避害?！?/p>

雖然越來越多的案例顯示，“智能網絡武器”日益威脅著網絡安全，但人工智能在各類安全場景中形成的多種多樣解決方案，也正加速用于網絡安全漏洞檢測、惡意軟件識別、不良信息智能審核、防范網絡犯罪等領域。

如中國科學院院士何積豐亦所說：“在功能安全方面，軟件測試驗證正變得更加智能化，在信息安全方面，主動防御體系同樣愈發(fā)智能化?！?/p>

騷擾詐騙電話和垃圾短信一直是困擾手機用戶的難題，其潛藏的詐騙風險讓用戶飽受財產損失之苦，而騰訊基于反欺詐 AI 模型建造能力研發(fā)的“賓果反詐騙防控系統”3月上線投入使用以來，全國重點詐騙區(qū)域詐騙號碼大幅下降接近70%，預警超過50000起，準確率超過99%，覆蓋全國31個省區(qū)市，累計為民眾避免損失20億元。

中國科學院復雜系統管理與控制國家重點實驗室主任王飛躍表示，網絡安全系統的實力，很大程度上可能并不取決于其物理本身，而是取決于與其伴生的軟件定義的人工系統映像。

人工智能安全防護能力首先沖擊汽車行業(yè)

大量人工智能新技術和網聯功能的引入，首先讓汽車行業(yè)面臨全新挑戰(zhàn)，信息安全將成為汽車行業(yè)的“國防”，汽車品牌的重要能力將向信息安全遷移。

科恩安全實驗室是全球知名的安全研究團隊，2016年曾通過移動網絡識別、準備和實施攻擊場景等技術成功發(fā)現特斯拉的重要漏洞，并遵循負責任的漏洞披露方式把漏洞威脅情況提交給特斯拉官方，供其完善智能防御系統，保障智能車輛安全。

據說，為了保證車輛的網絡安全，特斯拉從 Google、微軟和蘋果等公司挖來了工程師組建安全團隊，專門做產品安全分析和漏洞修復等工作。

北京市政協委員陳小兵說：“特斯拉在所有車企中算是對網絡安全最為重視的一家，但依然被挖出了嚴重漏洞。目前很多傳統車企尚未組建專門的網絡安全團隊，并且車載系統非常容易受到攻擊?！?/p>

不僅僅是智能車輛系統本身的安全，百度AI安全技術總監(jiān)聶科峰說：“汽車產業(yè)已全面進入智能網聯時代，智能車機所面臨的安全挑戰(zhàn)不僅涉及用戶隱私安全、財產安全層面，同時延伸到人身和公共安全層面?！?/p>

騰訊科恩實驗室總監(jiān)呂一平認為，透明、分享和行業(yè)合作對于形成更加全面安全的互聯網世界至關重要，其研究目標和成果將有助于改善許多國家數以億計的司機、乘客和行人的交通出行安全。

智能制造安全問題凸顯

在智能制造成為熱點話題的同時，全球大量的工業(yè)設備卻因為缺乏基礎的安全保障，正成為黑客甚至是全球不法分子攻擊的目標。

中國電子學會副理事長兼秘書長徐曉蘭對科技日報記者說：“智能制造是解決工業(yè)生產困境最重要的抓手，沒有工業(yè)互聯網智能制造很難取得突破性發(fā)展。”

現實情況卻是，工業(yè)互聯網領域的安全事件繼續(xù)呈高發(fā)狀態(tài)，2017年影子經紀人泄露的NSA網絡武器庫，包含眾多工業(yè)互聯網系統漏洞，可以實現對設備的精確打擊。我國國家信息安全漏洞共享平臺（CNVD）統計結果亦顯示，2017年新增信息安全漏洞4798個，其中工控系統新增漏洞數351個，與2016年同期相比，新增數量幾乎翻番。

百度安全副總經理沈鵬飛說：“物聯網、車聯網、工業(yè)互聯網的興起，打破了虛擬世界與現實世界間的最后一道屏障，傳統的安全防御方案已經無法應對AI時代面臨的各種安全問題。”

在應對惡意攻擊之外，工業(yè)互聯網自身的安全問題同樣不可忽視。

美的庫卡機器視覺AI研發(fā)總監(jiān)胡正表示，人機協作的機器人是未來的趨勢，但機器人導致工人死亡的事件每年都有，保證人在操作過程中不受機器人的侵害，不僅在技術層面還有很大的挑戰(zhàn)，業(yè)界對這一問題的重視程度普遍存有僥幸心理。

安全倫理不只是學術討論

人們希望看到機器變得很聰明，但也會擔心會相對變傻，這種小糾結如今雖然更多的體現在人工智能的學術領域，但業(yè)界越來越多的人為，人工智能的研發(fā)和應用，需要優(yōu)先考慮倫理規(guī)范問題。

人工智能先驅、圖靈獎得主Raj Reddy說：“從60年代到現在，許多人都對人工智能抱有誤解，認為人工智能的發(fā)展會取代人類，并非如此，我們的愿景始終是希望AI能延伸人的知覺，強化人的能力，幫助人類更好更快地完成多樣的工作?！?/p>

但是，伊萊克利。伯利茲也說：“隨著人工智能的進一步使用，人類20-30%的工作會被取代，雖然又會創(chuàng)造新的工作，但如何平衡人工智能和社會經濟發(fā)展、社會發(fā)展和安全穩(wěn)定之間的關系，不讓失業(yè)問題導致社會安全形勢惡化，需要找到好的契合點，這是產業(yè)未來的重要使命之一。”

峰橋集團總裁陳實認為，各國都應重視對人工智能安全倫理規(guī)范的思考，將技術發(fā)展與社會倫理置于相同的環(huán)境下充分思考，減小人工智能帶來的倫理沖擊，保證人工智能在全世界共同的倫理規(guī)范內健康發(fā)展。