你知道人工智能的安全風險嗎

一批人工智能開放平臺正在大幅降低技術門檻，讓人工智能走近中小企業(yè)，不再是財力雄厚者才能擁有的“奢侈品”。專家認為，開放平臺是人工智能技術發(fā)展新趨勢，將推動人工智能發(fā)展進入高峰，但同時也不可避免帶來多重安全風險，須予以防范。

人工智能“降門檻”推動創(chuàng)新

百度與金龍客車合作的無人小巴“阿波龍”日前在北京海淀公園進行了公開試乘，這款無人車搭載了百度Apollo系統(tǒng)，能基于高精地圖和智能感知技術，對行進路線進行最優(yōu)規(guī)劃。

不僅僅是“阿波龍”，在百度Apollo自動駕駛平臺開放的一年多里，已在全球有了133家生態(tài)伙伴和11000多家的開發(fā)者。

“包括戴姆勒、福特、沃爾沃、因特、微軟、比亞迪、北汽、奇瑞等汽車產(chǎn)業(yè)鏈上下游的領軍巨頭加入Apollo的生態(tài)。自動駕駛趕上了汽車和通訊兩個百年產(chǎn)業(yè)的交錯之際，百度多年積累的人工智能技術發(fā)展通過開源的方式加速整個生態(tài)的創(chuàng)新?！?百度總裁張亞勤說。

前段時間在浙江烏鎮(zhèn)召開的第五屆世界互聯(lián)網(wǎng)大會上，百度Apollo自動駕駛開放平臺與亞馬遜機器學習全托管平臺、安謀中國全新人工智能平臺“周易”、supET工業(yè)互聯(lián)網(wǎng)平臺、京東智能供應鏈技術服務平臺、小米智能家居開放平臺等一批人工智能平臺作為15項“世界互聯(lián)網(wǎng)領先科技成果”的重要組成在大會上進行發(fā)布。

中科院院士鄔賀銓作為世界互聯(lián)網(wǎng)領先科技成果推薦委員會中方主任，高度評價人工智能平臺類成果。“發(fā)布成果由47名全球知名的互聯(lián)網(wǎng)業(yè)界專家投票產(chǎn)生，代表了互聯(lián)網(wǎng)領域的創(chuàng)新智慧和未來互聯(lián)網(wǎng)的發(fā)展趨勢?！脚_’成為領先科技成果‘重頭戲’。”鄔賀銓認為平臺類成果打造生態(tài)，將利于其他中小企業(yè)利用平臺和技術進行進一步開發(fā)。

在百度自動駕駛開放平臺上，開發(fā)者甚至不用學習就能輕松使用相關的技術。安謀中國全新人工智能平臺“周易”能夠?qū)⑷斯ぶ悄艿脑O備開發(fā)周期縮短三到五倍，把算力開發(fā)成本減少五到十倍。亞馬遜機器學習全托管平臺上，受過訓練的開發(fā)人員僅需3到4周的時間，就能夠完成原本需要10到20個博士級專家耗時9個月完成的項目。

“今天幾乎所有的人工智能設備都是針對特定的應用場景，垂直集成，產(chǎn)業(yè)協(xié)同效應低，開發(fā)費用往往達到數(shù)億元，周期要數(shù)年。我們產(chǎn)業(yè)急需一個開放適配性強、互通的人工智能軟硬件開發(fā)平臺來降低開發(fā)成本?！卑仓\中國執(zhí)行董事長兼首席執(zhí)行官吳雄昂說。

“大家都知道人工智能的重要性，但除了谷歌、騰訊、百度這樣的企業(yè)，沒有多少公司能真正有實力去開發(fā)先進的人工智能技術。所以我們將過去積累的技術能力開放出來。”百度公司董事長兼首席執(zhí)行官李彥宏說。

“天下武功，唯快不破。進入智慧時代，‘快’不僅僅是‘日新月異’，還可能是以小時、以分鐘計算。”中國工程院院士、浪潮集團首席科學家王恩東說，創(chuàng)新速度是人工智能發(fā)展的核心競爭力。

多重安全風險值得警惕

多名專家和業(yè)內(nèi)人士表示，人工智能發(fā)展曾經(jīng)歷多次低谷，本輪發(fā)展呈加速態(tài)勢，行業(yè)內(nèi)對此已有共識，同時也應充分認識到，人工智能帶來的安全問題也會隨發(fā)展“動態(tài)演進”。

人工智能“降門檻”將催生更多黑客、更多病毒和更短攻擊周期。鄔賀銓說，在網(wǎng)絡安全領域，人工智能的普及將有助于識別網(wǎng)絡安全風險，同時也將降低黑客的門檻，讓更多人學會黑客，病毒的變種越來越多，且周期會越來越短。

“隨著人工智能的進步，人工智能的‘雙刃劍’特征會愈演愈烈?！编w賀銓說。

360集團董事長兼首席執(zhí)行官周鴻祎說，如今的網(wǎng)絡攻擊已實現(xiàn)了智能化、自動化，速度極快?！熬W(wǎng)絡安全監(jiān)控經(jīng)常會發(fā)現(xiàn)一些網(wǎng)絡攻擊，發(fā)現(xiàn)后再去分析研究，拿出解決方案后還未實施，網(wǎng)絡攻擊已經(jīng)過去了，而新的攻擊已經(jīng)開始?！?/p>

人工智能所依賴的傳感器、訓練數(shù)據(jù)和使用的開源軟件等存在安全隱患。中國信息通信研究院日前發(fā)布的《人工智能白皮書》顯示，人工智能產(chǎn)品和應用的研發(fā)主要基于谷歌、微軟、亞馬遜、臉譜、百度等科技巨頭發(fā)布的人工智能學習框架和組件，而這些開源框架和組件缺乏嚴格的測試管理和安全認證，漏洞和后門易被惡意利用。

“有一種做法是‘數(shù)據(jù)投毒’，想辦法在訓練數(shù)據(jù)里混入一些不正常數(shù)據(jù)，訓練出的人工智能系統(tǒng)就一定會犯錯。軟件只要是人寫的，就一定有漏洞，比如1000行代碼里就會有4個漏洞?！?周鴻祎說，由于漏洞不可避免，目前網(wǎng)絡攻防很不均衡?！皣栏駚碚f，傳統(tǒng)大家常見的入侵檢測、防火墻、殺毒軟件這些技術，在抵御這種攻擊上已經(jīng)顯得無能為力?！?/p>

“目前人工智能生態(tài)還未完全建立，尤其是在產(chǎn)業(yè)各個環(huán)節(jié)處于一個相對割裂的狀態(tài)，這就意味著黑客有機可乘。” 藍盾股份高級研究員、人工智能專家江緯說，人工智能所帶來的安全風險還包括拒絕服務、信息泄露、系統(tǒng)劫持等，可導致識別系統(tǒng)出現(xiàn)漏判、誤判，導致系統(tǒng)崩潰、被劫持，或使智能設備變成僵尸攻擊工具等。

風險管控及治理體系亟待建設

“人工智能具有多學科綜合、高度復雜的特征，我們需統(tǒng)籌謀劃，穩(wěn)步推進，把增強原創(chuàng)能力作為重點。”鄔賀銓等專家表示，在繼續(xù)加大人工智能研發(fā)應用力度、發(fā)揮人工智能應用潛力同時，要預判人工智能挑戰(zhàn)，從技術、法律等方面“揚長避短”，防范風險。

首先，需要立足自身突破人工智能關鍵核心技術。王恩東認為，國內(nèi)人工智能企業(yè)、科研機構要有清醒的認識，我們在基礎層面上還是有明顯差距，還要加強基礎研究和投入。鄔賀銓說，人工智能的應用才剛剛開始，但還處于起步階段，在解釋因果關系上目前還無能為力。更多的希望要寄托在人工智能的進步上。

其次，應打通數(shù)據(jù)孤島提升安全防護能力?！熬W(wǎng)絡安全是‘牽一發(fā)動全身’的一個整體。我們面臨的很大問題是各個企業(yè)‘各自為戰(zhàn)’，數(shù)據(jù)沒有打通，沒有全球或全國的視野，就看不到真正網(wǎng)絡攻擊發(fā)生的過程?！敝茗櫟t說。

第三，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系?！翱萍及l(fā)展已經(jīng)遠遠甩開現(xiàn)有社會法規(guī)與倫理規(guī)范，建立新的網(wǎng)絡秩序迫在眉睫。”美國智庫布魯金斯學會約翰·桑頓中國中心主任李成認為，要讓網(wǎng)絡空間和諧有序，社會、智庫、企業(yè)必須建立一個統(tǒng)一的網(wǎng)絡法律和規(guī)則。

微軟全球副總裁沈向洋說，微軟提出了“公平、包容、透明、負責、可靠與安全、隱私與保密”的“六大原則”指引人工智能發(fā)展，由多個部門負責人組成團隊制定政策來管理和指導開發(fā)“負責任”的人工智能產(chǎn)品。

此外，也要加強國際交流探討治理應對策略。美國東西方研究所全球副總裁布魯斯·邁康納建議，國際各方應通過構建官方和非官方均認可的網(wǎng)絡空間行為規(guī)則，預防風險共鑄安全長城。