人工智能技術(shù)，利弊并存雙刃劍特征突出，怎樣防止技術(shù)隱含的安全風(fēng)險

歷史上每一次工業(yè)革命都會助推強(qiáng)國崛起，引發(fā)國力轉(zhuǎn)變，重塑世界格局。人工智能（AI）技術(shù)的發(fā)展應(yīng)用同樣正在孕育著一場革命，為我國提供了重大歷史機(jī)遇?！皳屪C(jī)遇，乘勢而上”已成官商學(xué)界的高度共識。而世界大國對人工智能安全問題的擔(dān)憂則要比過去歷次科技革命的利害權(quán)衡都更為深入、廣泛和尖銳。在發(fā)展人工智能的全球競爭中能否成為這一新興技術(shù)的引領(lǐng)者，很大程度上取決于對“發(fā)展與安全”問題的了解、認(rèn)識和應(yīng)對。

一、充分了解人工智能技術(shù)隱含的安全風(fēng)險

人工智能是典型的軍民兩用技術(shù)，利弊并存，其智能化程度越高，雙刃劍特征就越突出。已故的英國科學(xué)家斯蒂芬·霍金教授認(rèn)為人工智能可能會毀滅人類，直接將“能否掌握對人工智能的控制權(quán)”這一拷問，提到人類戰(zhàn)略的高度。目前，世界各國在競相發(fā)展人工智能的同時，都高度重視其安全風(fēng)險。政界、軍界、產(chǎn)業(yè)界和智庫密集討論其對國家安全和國際秩序的威脅與挑戰(zhàn)。歸結(jié)而言，人工智能技術(shù)應(yīng)用的安全風(fēng)險突出體現(xiàn)在三個方面：

一是國家安全風(fēng)險。人工智能技術(shù)使機(jī)器擁有越來越高級的智能，力圖突破人力的局限，甚至改變?nèi)祟惻c技術(shù)的深層聯(lián)系，給國家發(fā)展帶來深層變革，其“威力之大，堪比核武”，被公認(rèn)是“對國家安全帶來深刻變化的顛覆性技術(shù)”。如果管控不當(dāng)，將直接影響政治、政權(quán)、經(jīng)濟(jì)、金融、網(wǎng)絡(luò)、文化等國家重要行業(yè)和核心領(lǐng)域的安全與穩(wěn)定。各主要大國在國家安全戰(zhàn)略和科技發(fā)展戰(zhàn)略等重要文件中均特別強(qiáng)調(diào)對人工智能危及國家安全的擔(dān)憂：一是擔(dān)心對這一新興戰(zhàn)略能力的缺失。普遍認(rèn)為，新一代人工智能會成為重要的戰(zhàn)略威懾力量，類似于“擁核自重”。不在人工智能上占據(jù)制高點，就難以在未來的國際舞臺上掌握主動權(quán)、擁有話語權(quán)。2018年4月，蘭德公司發(fā)布報告《人工智能對核戰(zhàn)爭風(fēng)險的影響》指出，到2040年人工智能有可能顛復(fù)核威懾戰(zhàn)略的基礎(chǔ)。二是擔(dān)心對人工智能技術(shù)濫用的失控。人工智能這種賦能極強(qiáng)的技術(shù)手段獲得容易，管控極難，濫用門檻極低，容易落入極端個人或犯罪團(tuán)伙之手，會給政權(quán)安全和社會穩(wěn)定帶來重大威脅。三是擔(dān)心對人工智能應(yīng)用中重大安全風(fēng)險的失察。人工智能技術(shù)應(yīng)用推廣隱含著諸多不確定性，近年在西方政治中出現(xiàn)的利用大數(shù)據(jù)分析和社交平臺部署“機(jī)器人水軍”達(dá)到“網(wǎng)絡(luò)干預(yù)選舉”的口水仗和劍橋分析公司利用人工智能等技術(shù)操控選民意見和行為的曝光，彰顯出新的政治安全風(fēng)險。沒有預(yù)測、預(yù)警和預(yù)防能力，智能化時代的系統(tǒng)性、災(zāi)難性風(fēng)險在所難免。

二是軍事安全風(fēng)險。兩用技術(shù)，最受軍方的青睞。一方面，越來越多的國家試圖研發(fā)“致命性自動武器”，而個人或非國家行為體則越來越容易獲得這種“四兩撥千斤”的“遠(yuǎn)程精確打擊能力”“機(jī)器自動殺人”可能不再是科幻。另一方面，有的國家或非國家實體可能將商業(yè)團(tuán)體開發(fā)的工業(yè)機(jī)器人轉(zhuǎn)化成接近實用的“機(jī)器人戰(zhàn)士”。更值得關(guān)注的是，西方軍界對智能化武器裝備、戰(zhàn)場戰(zhàn)法、戰(zhàn)爭理論等的研究越來越多，且日益深入，引發(fā)有識之士的普遍擔(dān)憂。以至于特斯拉創(chuàng)始人馬斯克等來自26個國家的116名專家去年聯(lián)名致信聯(lián)合國，強(qiáng)烈呼吁制止“智能武器”的軍備競爭，將其納入國際公約的管制。今年四月初，30個國家和地區(qū)的50多名專家學(xué)者聯(lián)合抵制韓國科學(xué)技術(shù)院與軍工企業(yè)合作的機(jī)器人武器研發(fā)項目。英國政府的一份報告明確表示：永遠(yuǎn)不能給人工智能系統(tǒng)傷害人的權(quán)力。

三是社會安全風(fēng)險。人工智能技術(shù)的創(chuàng)新和推廣，將不斷突破現(xiàn)有法律法規(guī)、社會規(guī)范和道德倫理的限制，直接給社會生活帶來多維度的安全挑戰(zhàn)。一是智能社會的經(jīng)濟(jì)生產(chǎn)與生活模式高度自動化，具有智能的機(jī)器對傳統(tǒng)人工的替代在解放人力勞動者的同時，直接帶來對就業(yè)的沖擊，給本來就存在就業(yè)壓力的發(fā)達(dá)國家?guī)砩鐣L(fēng)險。尤其是人工智能越來越多地應(yīng)用于大數(shù)據(jù)環(huán)境下的決策，由于機(jī)器系統(tǒng)無法像人那樣解釋或合理化其所作的決定，所謂的“算法偏見”會帶來更為復(fù)雜的社會問題。二是當(dāng)智能技術(shù)無處不在，萬物互聯(lián)成為常態(tài)，大量的個人隱私會直接暴露給智能設(shè)備，構(gòu)成日益尖銳且相當(dāng)普遍的網(wǎng)絡(luò)信息安全問題。三是人工智能主要靠軟件與算法驅(qū)動，而軟件與算法皆是人為編寫，難免出現(xiàn)技術(shù)漏洞和人為缺陷。人工智能與物聯(lián)網(wǎng)的深度融合，使得智能產(chǎn)品成為網(wǎng)絡(luò)攻擊新的風(fēng)險點和突破口。人工智能既普遍又敏感，正用反用，存乎一念，善惡之間，天壤之別。美國有研究表明，虛設(shè)假場景、偽造音視頻會直接引發(fā)股市動蕩、***和社會危機(jī)。在近兩年的世界黑客大會上，具有人工智能的“神器”“殺器”紛紛亮相。聯(lián)合國曾召開“人工智能向善”大會，專門討論技術(shù)標(biāo)準(zhǔn)、安全規(guī)范和道德倫理等問題，以防機(jī)器人作惡，表達(dá)了國際社會的集體焦慮。近期，谷歌公司3100多名員工聯(lián)名抗議為五角大樓開發(fā)相關(guān)高端人工智能技術(shù)，也是這種社會憂慮的反應(yīng)。

二、辯證認(rèn)識人工智能應(yīng)用面臨的安全問題

回顧人類文明史，在利弊并存的技術(shù)革命和社會創(chuàng)新面前，人類總能憑借自身的智慧探索出一條趨利避害的發(fā)展道路，從而在適應(yīng)發(fā)展、改造自然的進(jìn)程中化險為夷，轉(zhuǎn)危為安。相對前述多方面的風(fēng)險隱患，新一代人工智能帶給人類的發(fā)展機(jī)遇更為現(xiàn)實和明顯。隨著計算能力的提高，大規(guī)模數(shù)據(jù)的積累和學(xué)習(xí)算法的進(jìn)步，人工智能正在重塑我們的世界、社會和生活。日新月異的人工智能應(yīng)用不僅使我們的生活更加便捷和高效，而且能為我們應(yīng)對和解決重大社會性、全球性難題提供新的方法和手段。尤其重要的是，人工智能的發(fā)展將給全球帶來巨大的經(jīng)濟(jì)發(fā)展機(jī)會。普華永道2017年的一項研究表明：在人工智能技術(shù)的推動下，2030年全球GDP將增長14%，相當(dāng)于15.7萬億美元。發(fā)展與安全的利害關(guān)系，不言而喻?；仡櫸覈?，在多次重大的世界性技術(shù)變革面前，由于在風(fēng)險感知、安全預(yù)判上的糾結(jié)與失據(jù)，讓我們痛失多次歷史發(fā)展機(jī)遇，留下苦澀的遺憾。四十年的改革開放生動地證明了“發(fā)展是硬道理”，也辯證地揭示了“不發(fā)展是最大的不安全”。因此，對人工智能發(fā)展中面臨的安全問題，應(yīng)當(dāng)要有辯證的認(rèn)識。

首先，要樹立科學(xué)的安全觀念。要立足發(fā)展講安全，權(quán)衡利弊講安全，防止安全問題絕對化的認(rèn)識和安全風(fēng)險擴(kuò)大化的傾向。不能讓安全問題成為發(fā)展路上的攔路虎和絆腳石，而是要以有效的法律法規(guī)、管理手段和技術(shù)措施主動應(yīng)對，讓安全保障成為確保發(fā)展的底板和墊腳石。只有對安全問題有了全面科學(xué)的認(rèn)識，才會不糾結(jié)、不懼怕，才敢張開雙臂擁抱人工智能技術(shù)，才能緊緊抓住這一歷史機(jī)遇。

其次，要確立有效的治理策略。從蒸汽機(jī)到電力，從計算機(jī)到網(wǎng)絡(luò)，任何一項技術(shù)創(chuàng)新都經(jīng)歷一個從不完善到完善，從不可控到可控的過程，其中的治理之道基本上應(yīng)了“兩利相較取其重，兩害相較取其輕”的古訓(xùn)。因而是發(fā)展在先，治理在后，只是隨著時空關(guān)系的變化，發(fā)展與治理的時間差在不斷縮短，直到近十年的互聯(lián)網(wǎng)發(fā)展，我們?nèi)匀蛔叩氖窍劝l(fā)展后治理的路子。實踐表明，由于技術(shù)發(fā)展太快，應(yīng)用涉及太廣，作用影響太大，對于顛覆性超強(qiáng)的新興科技，治理滯后越來越顯得力不從心。而對新一代人工智能的自主、智能和自適應(yīng)等鮮明特征，發(fā)展與治理并舉的緊迫性更加凸顯。歐美各國均在人工智能發(fā)展戰(zhàn)略中同步考慮安全管控和風(fēng)險治理，加大了對安全問題的研究力度和安全措施的投入強(qiáng)度，為有效把控安全風(fēng)險預(yù)作準(zhǔn)備。這是處理應(yīng)對顛覆性技術(shù)帶來的安全風(fēng)險的新動向，值得我們重視和借鑒。在新一代人工智能的發(fā)展中要做到趨利避害，就必須不回避安全挑戰(zhàn)，以科學(xué)的態(tài)度，務(wù)實的精神，同步考慮和解決安全保障措施，為人工智能又好又快地發(fā)展提供可靠的安全保證。

再次，要建立良好的社會環(huán)境。良好的社會環(huán)境是科技創(chuàng)新最好的土壤，任何技術(shù)進(jìn)步和科技創(chuàng)新都是有成本的，要享用人工智能帶來的發(fā)展機(jī)遇，就要為其可能帶來的社會變革付出代價。政府、企業(yè)和公眾都要有為人工智能發(fā)展付出成本的心理準(zhǔn)備。人工智能應(yīng)用越廣，這個問題會越突出，我們不僅要在人工智能技術(shù)的研發(fā)、試驗和推廣應(yīng)用中包容失誤，寬容出錯，而且要在安全保密的文化和觀念上走出 “絕對安全”的認(rèn)識誤區(qū)，避免條件反射式的監(jiān)管沖動，靠發(fā)展化解隱患，以動態(tài)管控風(fēng)險。

三、有效應(yīng)對人工智能發(fā)展提出的安全挑戰(zhàn)

我國已正式發(fā)布新一代人工智能的發(fā)展規(guī)劃，憑借規(guī)模龐大的市場和技術(shù)應(yīng)用優(yōu)勢，堅持發(fā)展這個硬道理，抓住創(chuàng)新這個牛鼻子，我們就能搶占先機(jī)，獲得主動。在安全管控這個關(guān)鍵問題上，只要堅持發(fā)展與治理并舉，趨利避害，就可以走出具有中國特色的一條新路。

（一）強(qiáng)化戰(zhàn)略引領(lǐng)，發(fā)揮體制優(yōu)勢，爭取技術(shù)領(lǐng)先。一是在總體國家安全觀的指導(dǎo)下，完善人工智能發(fā)展戰(zhàn)略，尤其要充分考慮新一代人工智能技術(shù)的新特點和應(yīng)用的新領(lǐng)域，處理好發(fā)展與安全的辯證關(guān)系，同步布局、設(shè)計和安排與安全相關(guān)的工作內(nèi)容。二是面向國防、安全等國家戰(zhàn)略需求，統(tǒng)一建設(shè)人工智能國家實驗室、安全風(fēng)險測評基地、模擬試驗場等技術(shù)基礎(chǔ)設(shè)施。防止各行業(yè)、各部門一哄而上，重復(fù)投入，避免同質(zhì)競爭造成資源浪費。三是設(shè)立重大科技專項，研發(fā)人工智能積極防御關(guān)鍵技術(shù)，搶占戰(zhàn)略制高點，提高國家在該領(lǐng)域的核心競爭力。

（二）強(qiáng)化軍民融合，推動商業(yè)應(yīng)用，促進(jìn)創(chuàng)新發(fā)展。一可增加人工智能安全相關(guān)的基礎(chǔ)研究投入，針對我國在交通、醫(yī)療、金融、教育、智慧城市、工業(yè)控制等方面大規(guī)模人工智能的應(yīng)用需求，研究有針對性的安全技術(shù)，促進(jìn)原始創(chuàng)新。二可將人工智能商業(yè)應(yīng)用創(chuàng)新作為軍民融合的重要內(nèi)容，激發(fā)技術(shù)創(chuàng)新和成果轉(zhuǎn)化，鼓勵科研成果的實際應(yīng)用，在應(yīng)用中改進(jìn)，在改進(jìn)中完善和提高，形成良好的產(chǎn)業(yè)生態(tài)。三可支持跨部門、跨界的數(shù)據(jù)共享和業(yè)務(wù)配合，推動機(jī)制創(chuàng)新，讓我國的信息化紅利、網(wǎng)絡(luò)化紅利和大數(shù)據(jù)紅利有效轉(zhuǎn)化成人工智能發(fā)展與應(yīng)用的直接動力。

（三）強(qiáng)化安全治理，提高防范能力，管控重大風(fēng)險。一宜結(jié)合深化改革，明確人工智能安全治理的責(zé)任部門，防止“九龍治水”，政出多門，減少企業(yè)經(jīng)營負(fù)擔(dān)和公眾政策困擾。二宜與國家人工智能發(fā)展戰(zhàn)略相適應(yīng)，持續(xù)加大投入力度，著力建設(shè)防故障、防干擾、防破壞、防控制等技術(shù)標(biāo)準(zhǔn)、治理體系和治理能力，努力躋身人工智能強(qiáng)國之列。三宜貫徹人類命運共同體理念，支持科研團(tuán)體、專家學(xué)者、企業(yè)廣泛開展國際合作，主動搭建人工智能國際合作平臺，積極參與國際標(biāo)準(zhǔn)和規(guī)則制定。針對機(jī)器人異化和安全風(fēng)險管控、治理等重大國際共性問題，加強(qiáng)研究，提出中國方案，貢獻(xiàn)中國智慧，發(fā)揮中國作用。