歐盟委員會(huì)于4月8日發(fā)布了人工智能道德準(zhǔn)則

在人類科幻史上，阿西莫夫創(chuàng)立的“機(jī)器人三定律”十分的有名，而在現(xiàn)實(shí)中，類似的條文似乎已經(jīng)出現(xiàn)了。

據(jù)美國(guó)科技網(wǎng)站TheVerge的報(bào)道，經(jīng)過52名專家的商討，歐盟委員會(huì)于4月8日發(fā)布了人工智能道德準(zhǔn)則。

該準(zhǔn)則對(duì)未來人工智能的發(fā)展提出7個(gè)要求：

1.人類的能動(dòng)性和監(jiān)管：人工智能不能侵犯人類的自主性。人們不應(yīng)該被AI系統(tǒng)操縱或脅迫，而應(yīng)該能夠干預(yù)或監(jiān)督軟件做出的每一個(gè)決定。

2.技術(shù)的健全性和安全性：人工智能應(yīng)該安全且準(zhǔn)確。它不應(yīng)該易于受到外部攻擊的影響，且應(yīng)該相當(dāng)可靠。

3.隱私和數(shù)據(jù)管理：人工智能系統(tǒng)收集的個(gè)人數(shù)據(jù)應(yīng)該是安全的、私有的。它不應(yīng)該讓任何人接觸，也不應(yīng)該輕易被盜。

4.透明性：用于創(chuàng)建人工智能系統(tǒng)的數(shù)據(jù)和算法應(yīng)該是可訪問的，軟件所做的決定應(yīng)能被人類理解和跟蹤。換句話說，操作員應(yīng)能夠解釋AI系統(tǒng)所做的決定。

5.多樣性、非歧視和公平性：人工智能提供的服務(wù)應(yīng)面向所有人，無論年齡、性別、種族或其他特征。同樣，系統(tǒng)不應(yīng)該在這些方面存在偏見。

6.環(huán)境和社會(huì)福祉：人工智能系統(tǒng)應(yīng)該是可持續(xù)的（即它們應(yīng)該對(duì)生態(tài)負(fù)責(zé)）并“促進(jìn)積極的社會(huì)變革”。

7.問責(zé)制：人工智能系統(tǒng)應(yīng)該是可審計(jì)的，并被納入企業(yè)可舉報(bào)范疇，以便受到現(xiàn)有規(guī)則的保護(hù)。應(yīng)事先告知和報(bào)告系統(tǒng)可能產(chǎn)生的負(fù)面影響。

該準(zhǔn)則對(duì)于未來規(guī)范人工智能的發(fā)展能夠起到多大實(shí)質(zhì)性作用現(xiàn)在還有待觀察，不過歐盟《準(zhǔn)則》的問世對(duì)于人工智能研究確實(shí)具有重大的意義。

首先，《準(zhǔn)則》的內(nèi)容再次引發(fā)了世人對(duì)于人工智能倫理問題的重視。自從人工智能誕生以來，隨著技術(shù)的進(jìn)步已經(jīng)得到了越來越廣泛的應(yīng)用，隨之而來就是相關(guān)倫理問題的爭(zhēng)論。如在戰(zhàn)場(chǎng)上，人工智能要是被授予了“自由開火權(quán)”，會(huì)不會(huì)將人命當(dāng)做兒戲，自作主張，濫殺無辜，將戰(zhàn)爭(zhēng)變成一場(chǎng)場(chǎng)無法“Restart”的游戲。又或者，有朝一日人工智能通過不斷的學(xué)習(xí)，其“心智”水平越來越高，有可能萌生脫離人類控制、獨(dú)立自主的傾向，再往后會(huì)與人類發(fā)生沖突甚至奴役或者滅絕人類。在各類科幻大片中，人工智能造反一直是經(jīng)久不衰的主題。

而巧合的是，機(jī)器人的英文單詞是“Robot”，最早由捷克作家卡雷爾·恰佩克在其科幻作品中首創(chuàng)，原意是“農(nóng)奴式被強(qiáng)迫的勞動(dòng)者”，并借此稱呼那些可能會(huì)造反的機(jī)器仆人。為了防止機(jī)器人“以奴欺主”，科幻大師阿西莫夫構(gòu)想了著名的“機(jī)器人三定律”，即：機(jī)器人不得傷害人類個(gè)體，或者目睹人類個(gè)體將遭受危險(xiǎn)而袖手不管；機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外；機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存。稍作對(duì)比不難發(fā)現(xiàn)，在此次歐盟頒布的《準(zhǔn)則》的第1、第4和第2條分別與“機(jī)器人三定律”有相通之處，都是提倡“以人為本”，在原則上對(duì)相關(guān)倫理問題做出了規(guī)定，以盡可能防止人工智能傷害人類。由于歐盟此舉領(lǐng)先于全世界，因此堪稱是人工智能發(fā)展史上一個(gè)重要節(jié)點(diǎn)，也會(huì)為其他國(guó)家或組織制定和出臺(tái)相關(guān)規(guī)定提供參照和依據(jù)。

同時(shí)，歐盟制定《準(zhǔn)則》的行為本身也說明人工智能技術(shù)對(duì)于國(guó)際關(guān)系的影響已經(jīng)不容忽視了。國(guó)內(nèi)早就有學(xué)者指出，人工智能技術(shù)的發(fā)展將引發(fā)國(guó)際格局的變化，正如核技術(shù)的出現(xiàn)改變了現(xiàn)代世界的政治面貌一樣。

一方面在經(jīng)濟(jì)領(lǐng)域，人工智能可以成為新的虛擬勞動(dòng)力，并補(bǔ)充和提高現(xiàn)有勞動(dòng)力和實(shí)物資本的技術(shù)與能力，而且還能推動(dòng)創(chuàng)新、推進(jìn)結(jié)構(gòu)轉(zhuǎn)型。據(jù)統(tǒng)計(jì)，截至2018年初，中國(guó)人工智能核心產(chǎn)業(yè)規(guī)模達(dá)到180億元，帶動(dòng)相關(guān)產(chǎn)業(yè)規(guī)模達(dá)到2200億元。根據(jù)預(yù)測(cè)，到2030年人工智能將為全球GDP帶來14%的增長(zhǎng)空間，即15.7萬億美元的市場(chǎng)規(guī)模，其中中國(guó)的GDP增長(zhǎng)規(guī)模為26%，北美的GDP增長(zhǎng)規(guī)模為14%，為全球受到人工智能帶動(dòng)效應(yīng)最大的地區(qū)。

另一方面在國(guó)防領(lǐng)域，人工智能對(duì)國(guó)家軍事力量影響早已不言而喻。隨著人工智能技術(shù)推廣，智能化武器的廣泛應(yīng)用將成為可能。深度學(xué)習(xí)算法可以使智能化武器在虛擬環(huán)境中建立武器操控的基本能力，并且借助人工智能系統(tǒng)進(jìn)行智能化武器的協(xié)調(diào)行動(dòng)，最大限度地獲得戰(zhàn)場(chǎng)優(yōu)勢(shì)。智能化武器系統(tǒng)不僅能夠使人與武器實(shí)現(xiàn)實(shí)質(zhì)性分離，使實(shí)際傷亡率無限趨近于0，而且沒有了感情用事，武器的使用效率和不同武器之間的協(xié)作也將大大提升。如在敘利亞戰(zhàn)場(chǎng)上，俄軍機(jī)器人部隊(duì)已經(jīng)首開了戰(zhàn)例。未來，具備人工智能的“無人軍團(tuán)”必將成為大國(guó)的“標(biāo)配”，進(jìn)一步拉大國(guó)與國(guó)之間的軍力差距，甚至出現(xiàn)單方面“碾壓”。

很明顯，對(duì)經(jīng)濟(jì)和安全產(chǎn)生重大影響的人工智能技術(shù)將成為未來國(guó)際關(guān)系中的重要因素之一。無怪乎今年2月11日美國(guó)總統(tǒng)特朗普簽署了一項(xiàng)行政命令，要求聯(lián)邦政府機(jī)構(gòu)將更多資源和資金投入到人工智能的研究、推廣和培訓(xùn)中，這無異于拉開了人工智能領(lǐng)域大國(guó)競(jìng)爭(zhēng)的大幕。而對(duì)于此次歐盟出臺(tái)《準(zhǔn)則》的背后意圖，有分析認(rèn)為，由于歐盟在投資和前沿研究方面，已經(jīng)無法與美國(guó)和中國(guó)一爭(zhēng)高下，因此它才迫不得已選擇了倫理作為塑造技術(shù)未來的最佳選擇。所以也可以說歐盟是希望通過搶占人工智能“道德高地”，以此在國(guó)際社會(huì)爭(zhēng)取更多話語權(quán)，這也從另一個(gè)角度彰顯了人工智能對(duì)于一個(gè)國(guó)家國(guó)際地位的影響力。