人工智能擴(kuò)展人類自身能力，發(fā)展應(yīng)用中的安全風(fēng)險(xiǎn)及應(yīng)對(duì)策略

來源：搜狐

人工智能擴(kuò)展了人類自身能力，甚至超越了人類生物極限。作為一項(xiàng)革命性的技術(shù)，其應(yīng)用主要涉及深度學(xué)習(xí)、視覺感知和識(shí)別、語音感知和識(shí)別、生物特征感知和識(shí)別、語義分析、智能機(jī)器人、自動(dòng)駕駛及虛擬現(xiàn)實(shí)等。其在為人類認(rèn)識(shí)世界、改造世界增添新工具新手段新方法的同時(shí)，也給人類社會(huì)的經(jīng)濟(jì)、隱私、倫理及安全帶來了風(fēng)險(xiǎn)。 如何開展研發(fā)、夯實(shí)新一代人工智能發(fā)展的基礎(chǔ)？ 怎樣加強(qiáng)人工智能和產(chǎn)業(yè)發(fā)展融合、為高質(zhì)量發(fā)展提供新動(dòng)能？ 如何加強(qiáng)人工智能同保障和改善民生的結(jié)合，推動(dòng)人工智能在人們?nèi)粘９ぷ?、學(xué)習(xí)、生活中的深度運(yùn)用？

人工智能（Artificial Intelligence，AI）被稱為21世紀(jì)三大尖端技術(shù)之一（基因工程、納米科學(xué)、人工智能），擴(kuò)展延伸了人的智能，逐漸轉(zhuǎn)變成滲透到人類生活和社會(huì)各個(gè)方面的通用技術(shù)，為人類認(rèn)識(shí)世界、改造世界增添了新工具新手段新方法。

01推動(dòng)因素與發(fā)展現(xiàn)狀

隨著網(wǎng)絡(luò)、超級(jí)計(jì)算、大數(shù)據(jù)、云服務(wù)及傳感器等技術(shù)的發(fā)展進(jìn)步，人工智能進(jìn)入了重新崛起并迅猛發(fā)展的新階段。

1.現(xiàn)狀

從發(fā)展史來看，人工智能并不是最近才出現(xiàn)的新技術(shù)。1956年夏天，在美國(guó)新罕布什爾州漢諾威市舉行的“達(dá)特茅斯會(huì)議”上，“人工智能”術(shù)語的提出，標(biāo)志著它已成為一門新興學(xué)科。此后，它逐漸為世人熟悉接受，其相關(guān)理論和技術(shù)也在起伏中得到逐步發(fā)展。進(jìn)入21世紀(jì)，人工智能再度進(jìn)入爆發(fā)式發(fā)展應(yīng)用的新階段，主要有四大推動(dòng)因素：

（1）相關(guān)基礎(chǔ)理論、技術(shù)和應(yīng)用的積累進(jìn)入新階段。計(jì)算機(jī)、大數(shù)據(jù)、云計(jì)算以及物聯(lián)網(wǎng)等技術(shù)的突破，特別是神經(jīng)網(wǎng)絡(luò)（模仿人腦思考結(jié)構(gòu)）、機(jī)器學(xué)習(xí)（記憶與認(rèn)知）、數(shù)據(jù)庫和算法等研究取得的新成果，為人工智能產(chǎn)業(yè)化快速發(fā)展提供了重要技術(shù)基礎(chǔ)。

（2）國(guó)家戰(zhàn)略布局和相關(guān)政策的有力支持。美、歐、日等發(fā)達(dá)國(guó)家和地區(qū)將人工智能上升為國(guó)家戰(zhàn)略，紛紛出臺(tái)政策支持人工智能技術(shù)研發(fā)和產(chǎn)業(yè)發(fā)展，搶占發(fā)展先機(jī)。日本在2015年1月發(fā)布《機(jī)器人新戰(zhàn)略》，未來十年將投入1000億日元用于人工智能的研發(fā)；2017年3月，又出臺(tái)《人工智能技術(shù)戰(zhàn)略》，進(jìn)一步規(guī)劃部署人工智能的技術(shù)研發(fā)。2016年，美國(guó)白宮連續(xù)發(fā)布《為未來人工智能做好準(zhǔn)備》《美國(guó)國(guó)家人工智能研究和發(fā)展戰(zhàn)略計(jì)劃》《人工智能、自動(dòng)化和經(jīng)濟(jì)》等政策和研究報(bào)告，明確提出人工智能研發(fā)戰(zhàn)略，構(gòu)建人工智能研發(fā)實(shí)施框架，并于2018年5月設(shè)立相關(guān)組織機(jī)構(gòu)，協(xié)調(diào)推進(jìn)人工智能研發(fā)與政企協(xié)作。2018年9月，美國(guó)國(guó)防部決定未來五年投資20億美元用于開發(fā)機(jī)器常識(shí)（MCS）項(xiàng)目。2018年6月，歐洲委員會(huì)提出一項(xiàng)數(shù)字歐洲計(jì)劃，計(jì)劃2021-2027年投入10.4億美元推進(jìn)人工智能技術(shù)研發(fā)與應(yīng)用。2016年12月，英國(guó)發(fā)布《人工智能：未來決策制定的機(jī)遇與影響》，闡釋了人工智能對(duì)現(xiàn)代社會(huì)的影響，不斷提高政府對(duì)人工智能的認(rèn)知，2017年4月英國(guó)皇家學(xué)會(huì)發(fā)布《機(jī)器學(xué)習(xí)：計(jì)算機(jī)通過案例學(xué)習(xí)的能力與潛力》研究報(bào)告，呼吁英國(guó)加大對(duì)機(jī)器學(xué)習(xí)技術(shù)的研發(fā)投入，2018年英國(guó)啟動(dòng)了《人工智能行業(yè)新政》，推動(dòng)英國(guó)成為人工智能領(lǐng)域的領(lǐng)導(dǎo)者。2018年以來，德國(guó)、法國(guó)、韓國(guó)和印度等國(guó)也紛紛推出本國(guó)的人工智能戰(zhàn)略進(jìn)行規(guī)劃布局。

（3）各大企業(yè)加大金融資本的支持。高科技企業(yè)將人工智能視為下一代產(chǎn)業(yè)革命的技術(shù)引爆點(diǎn)進(jìn)行投資。2016年9月，谷歌、微軟、亞馬遜、臉譜和IBM五家企業(yè)宣布成立人工智能聯(lián)盟，交流共享人工智能發(fā)展經(jīng)驗(yàn)。由于人工智能產(chǎn)業(yè)化和商業(yè)前景看好，各種金融資本迅速介入。數(shù)據(jù)顯示，2016年，全球科技巨頭在人工智能領(lǐng)域投資就達(dá)300億美元。資本市場(chǎng)的火熱催生了一大批人工智能領(lǐng)域初創(chuàng)公司的誕生和快速發(fā)展。如以云知聲、思必馳等為代表的語音識(shí)別和自然語言處理公司，以商湯科技、曠視科技、依圖科技等為代表的計(jì)算機(jī)視覺公司，它們中有很多如今已發(fā)展成為新興的獨(dú)角獸企業(yè)。2018年4月9日，中國(guó)恒大與中國(guó)科學(xué)院簽署合作協(xié)議，未來10年恒大將投資1000億元人民幣，布局量子科技、機(jī)器人等新科技領(lǐng)域。

（4）應(yīng)用場(chǎng)景的影響。谷歌公司機(jī)器人阿爾法狗戰(zhàn)勝韓國(guó)圍棋九段棋手李世石和圍棋世界冠軍柯潔，喚醒了世人對(duì)人工智能的高度關(guān)注。百度指數(shù)數(shù)據(jù)顯示，從2015年底開始，“人工智能”熱度逐漸升溫，且持續(xù)到現(xiàn)在。2015-2016年，其媒體關(guān)注度已經(jīng)暴漲6倍。

2.發(fā)展現(xiàn)狀

目前，人工智能蓬勃發(fā)展，技術(shù)進(jìn)步迅速，其應(yīng)用已經(jīng)滲透到我們的日常生活中，如人臉識(shí)別、刷臉支付、語音助手、無人機(jī)、服務(wù)機(jī)器人、自動(dòng)駕駛和智能系統(tǒng)等。與互聯(lián)網(wǎng)、大數(shù)據(jù)、物聯(lián)網(wǎng)、云服務(wù)融合的人工智能應(yīng)用給我們帶來了更多的便利。專家認(rèn)為，人工智能的應(yīng)用將使勞動(dòng)生產(chǎn)率提高90%；至2035年，人工智能將使年度經(jīng)濟(jì)增長(zhǎng)率提高一倍。

但是，業(yè)界普遍認(rèn)為真正的人工智能尚處于發(fā)展的初級(jí)階段（認(rèn)知智能發(fā)展階段），即弱人工智能階段，有“技能”，但遠(yuǎn)遠(yuǎn)談不上有“智能”，還沒能出現(xiàn)像人一樣思考和行動(dòng)的真正的人工智能產(chǎn)品，離通過“圖靈測(cè)試”這一衡量人工智能技術(shù)水平的標(biāo)準(zhǔn)為時(shí)尚遠(yuǎn)。有專家認(rèn)為，人工智能目前處于嬰兒期，其智商大抵相當(dāng)于3歲的孩子，說不好、笑不真、想不清、行不穩(wěn)，這四“不”客觀地描寫了人工智能目前的現(xiàn)狀。

02安全風(fēng)險(xiǎn)

1.國(guó)家安全

國(guó)家安全包括國(guó)土安全、政權(quán)安全、制度安全和意識(shí)形態(tài)安全等。2017年7月，美國(guó)智庫發(fā)表題為《人工智能與國(guó)家安全》的研究報(bào)告，認(rèn)為人工智能將會(huì)是國(guó)家安全領(lǐng)域的顛覆性力量，其影響可與核、航空航天、信息和生物技術(shù)比肩，將深刻改變軍事、信息和經(jīng)濟(jì)領(lǐng)域安全態(tài)勢(shì)。該報(bào)告強(qiáng)調(diào)人工智能通過變革軍事優(yōu)勢(shì)、信息優(yōu)勢(shì)和經(jīng)濟(jì)優(yōu)勢(shì)影響國(guó)家安全。其中，軍事領(lǐng)域引入人工智能幾乎是不可阻擋的，而人工智能技術(shù)與生俱來的軍民兩用特性則要求決策者必須調(diào)和商業(yè)與國(guó)家安全之間的利益。而且，利用“換臉”、“換聲”等人工智能技術(shù)可以制作具有欺騙性的假時(shí)事新聞。已有案例說明，利用人工智能技術(shù)在社交平臺(tái)大量制作散發(fā)虛假新聞可以在政府首腦選舉中影響選民的抉擇。

2.社會(huì)安全

傳統(tǒng)犯罪借助人工智能，將會(huì)衍生出新型犯罪形態(tài)、犯罪行為、手段和方法，出現(xiàn)無法辨識(shí)是機(jī)器人犯罪還是真實(shí)人犯罪的尷尬場(chǎng)景。2018年3月，美國(guó)發(fā)生了兩起涉及自動(dòng)駕駛的車禍。3月19日，優(yōu)步（Uber）一輛自主駕駛汽車在美國(guó)亞利桑那州坦佩市發(fā)生致命車禍，一名49歲的女子晚上推著自行車穿過馬路時(shí)被汽車撞死。3月23日，一名工程師駕駛特斯拉Model X型號(hào)汽車在加州101公路和85公路交接處發(fā)生致命車禍，車禍發(fā)生時(shí)汽車啟用了自動(dòng)駕駛（或自動(dòng)輔助駕駛）功能。這些案例說明，人工智能產(chǎn)品如果沒有徹底解決安全可靠性問題，將會(huì)危及社會(huì)公共安全和人身安全。

3.網(wǎng)絡(luò)安全

網(wǎng)絡(luò)和大數(shù)據(jù)的發(fā)展推動(dòng)了人工智能的進(jìn)步，網(wǎng)絡(luò)攻擊智能化趨勢(shì)也給網(wǎng)絡(luò)安全保護(hù)提出更高要求。有關(guān)人工智能與網(wǎng)絡(luò)安全關(guān)系的研究表明，一旦人工智能運(yùn)用到網(wǎng)絡(luò)攻擊活動(dòng)，將使得網(wǎng)絡(luò)攻擊活動(dòng)更加難以預(yù)警和防范，關(guān)鍵信息基礎(chǔ)設(shè)施也將會(huì)面臨新的安全風(fēng)險(xiǎn)威脅。如人工智能技術(shù)運(yùn)用到木馬病毒制作傳播，將會(huì)出現(xiàn)難以防御的超級(jí)病毒木馬，傳統(tǒng)應(yīng)對(duì)方法將不足以制止這些惡意程序傳播擴(kuò)散的速度。此外，人工智能的技術(shù)研發(fā)與應(yīng)用也存在一些不確定性的安全風(fēng)險(xiǎn)。

03應(yīng)對(duì)人工智能安全風(fēng)險(xiǎn)的對(duì)策建議

人工智能的安全風(fēng)險(xiǎn)取決于技術(shù)發(fā)展及其安全可控的程度，短期風(fēng)險(xiǎn)可以預(yù)見，長(zhǎng)期風(fēng)險(xiǎn)受制于現(xiàn)有認(rèn)知能力難以預(yù)測(cè)和判斷。因此，一方面，人類社會(huì)要積極推動(dòng)人工智能技術(shù)研發(fā)和應(yīng)用；另一方面，要為人工智能的發(fā)展應(yīng)用規(guī)劃一條安全邊界，防止其被惡意運(yùn)用、濫用，給人類社會(huì)造成不可逆轉(zhuǎn)的傷害。

1.加強(qiáng)人工智能安全風(fēng)險(xiǎn)的研究

樹立正確的安全觀，科學(xué)對(duì)待人工智能安全風(fēng)險(xiǎn)。研究掌握在人工智能技術(shù)研發(fā)和應(yīng)用過程中會(huì)出現(xiàn)哪些風(fēng)險(xiǎn)，并從法律、政策、技術(shù)和監(jiān)管等方面進(jìn)行有效防控管控。

2.加強(qiáng)人工智能立法研究和法律規(guī)范

人工智能理論、方法、技術(shù)及其應(yīng)用引發(fā)社會(huì)關(guān)系、社會(huì)結(jié)構(gòu)和行為方式的變化，產(chǎn)生不可預(yù)知的安全風(fēng)險(xiǎn)和新的法律問題。建議運(yùn)用法律手段，重點(diǎn)防控人工智能行為主體及其行為的異化。從現(xiàn)有情況看，人工智能法律研究應(yīng)主要聚焦在人工智能產(chǎn)品主體，如智能機(jī)器人的法律地位、行為的法律屬性以及法律責(zé)任如何確定等方面。在立法方面應(yīng)加強(qiáng)對(duì)人工智能技術(shù)應(yīng)用可能出現(xiàn)的法律問題的前瞻性研究探索。

3.加強(qiáng)人工智能安全防控體系建設(shè)

按照趨利避害原則，處理好人工智能發(fā)展應(yīng)用與安全防控的關(guān)系，既要促進(jìn)人工智能發(fā)展應(yīng)用，又要推動(dòng)其在安全、可靠和可控的軌道上前行。要加強(qiáng)對(duì)人工智能安全防控體系建設(shè)的戰(zhàn)略規(guī)劃部署，圍繞人工智能安全風(fēng)險(xiǎn)點(diǎn)，借鑒已有經(jīng)驗(yàn)，有步驟地推進(jìn)人工智能安全綜合防控體系建設(shè)。

4.加強(qiáng)人工智能產(chǎn)品服務(wù)的安全監(jiān)管

要及時(shí)制定人工智能安全產(chǎn)品和服務(wù)技術(shù)標(biāo)準(zhǔn)規(guī)范，規(guī)范和引導(dǎo)產(chǎn)品研發(fā)推廣。加強(qiáng)對(duì)人工智能安全產(chǎn)品和服務(wù)的市場(chǎng)監(jiān)管執(zhí)法和相關(guān)產(chǎn)品上市前的安全測(cè)試。對(duì)有安全缺陷的產(chǎn)品和服務(wù)要依法處理，對(duì)造成危害后果的要依法追究法律責(zé)任。要積極運(yùn)用人工智能技術(shù)提高安全監(jiān)管能力，善于運(yùn)用人工智能技術(shù)改進(jìn)和加強(qiáng)安全監(jiān)管執(zhí)法，提高安全監(jiān)管執(zhí)法的能力和效率。

5.加強(qiáng)人工智能技術(shù)研發(fā)的管控

人工智能的快速發(fā)展引起了國(guó)際社會(huì)對(duì)于道德倫理問題的關(guān)注和擔(dān)心，應(yīng)當(dāng)為人工智能技術(shù)研發(fā)劃出“紅線”，設(shè)置禁區(qū)，禁止研究開發(fā)危害人類生存安全的人工智能技術(shù)和產(chǎn)品，防止人工智能技術(shù)的濫用。美國(guó)科幻小說家阿西莫夫在1950年出版的小說《我，機(jī)器人》中提出了著名的“機(jī)器人三大法則”，第一定律：機(jī)器人不得傷害人類個(gè)體，或者目睹人類個(gè)體將遭受危險(xiǎn)時(shí)袖手不管；第二定律：機(jī)器人必須服從人類發(fā)出的命令，當(dāng)該命令與第一定律沖突時(shí)例外；第三定律：機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存。2017年1月，美國(guó)著名人工智能研究機(jī)構(gòu)未來生命研究院（FLI）在加利福尼亞州召開主題為“有益的人工智能（Beneficial AI）”的阿西洛馬會(huì)議，法律、倫理、哲學(xué)、經(jīng)濟(jì)、機(jī)器人和人工智能等眾多學(xué)科和領(lǐng)域的專家，共同達(dá)成了23條人工智能原則（“阿西洛馬人工智能原則”，被稱為人工智能發(fā)展的“23條軍規(guī)”），呼吁全世界在發(fā)展人工智能的時(shí)候嚴(yán)格遵守這些原則，共同保障人類未來的利益和安全。23條規(guī)則規(guī)定，人工智能研究的目標(biāo)應(yīng)該建立有益的智能，而不是無向的智能。應(yīng)該設(shè)計(jì)高度自主的人工智能系統(tǒng)，以確保其目標(biāo)和行為在整個(gè)運(yùn)行過程中與人類價(jià)值觀相一致。對(duì)于人工智能造成的風(fēng)險(xiǎn)，尤其是那些災(zāi)難性的和存在價(jià)值性的風(fēng)險(xiǎn)，必須付出與其所造成的影響相稱的努力，以用于進(jìn)行規(guī)劃和緩解風(fēng)險(xiǎn)。同時(shí)，人工智能軍事化問題也是國(guó)際法律界關(guān)注的熱點(diǎn)。目前，國(guó)際上限制致命性人工智能武器的呼聲不絕于耳，有上百家人工智能領(lǐng)先企業(yè)呼吁禁止發(fā)展致命性人工智能武器。國(guó)際社會(huì)應(yīng)當(dāng)共同努力，加強(qiáng)合作，反對(duì)人工智能軍事化，共同應(yīng)對(duì)人工智能安全風(fēng)險(xiǎn)。

審核編輯 黃昊宇