AI技術(shù)濫用的后果有多嚴(yán)重

德國(guó)創(chuàng)新創(chuàng)業(yè)協(xié)會(huì)會(huì)長(zhǎng)胡海濤第一財(cái)經(jīng)記者表示：“應(yīng)該嚴(yán)密保護(hù)個(gè)人數(shù)據(jù)，我們的企業(yè)家協(xié)會(huì)主要從事醫(yī)學(xué)和生物醫(yī)學(xué)AI研究，如果缺乏保護(hù)個(gè)人數(shù)據(jù)，不僅會(huì)導(dǎo)致客戶(hù)個(gè)人社會(huì)形象受損，甚至可能影響職業(yè)生涯;如果是公眾人物，潛在的風(fēng)險(xiǎn)是不可估量的?！?/p>

在大數(shù)據(jù)和云計(jì)算的幫助下，加強(qiáng)對(duì)“個(gè)人數(shù)據(jù)”的保護(hù)，近兩年來(lái)人工智能再次在時(shí)代的浪潮中，成為一個(gè)不容忽視的熱點(diǎn)。然而，與此同時(shí)，人工智能帶來(lái)的各種社會(huì)問(wèn)題也逐漸浮出水面。

2018年3月17日，據(jù)國(guó)外媒體透露，英國(guó)政治咨詢(xún)公司劍橋分析沒(méi)有在臉書(shū)（Facebook），公司同意情況下，并且未告知實(shí)情的同時(shí)，通過(guò)一種問(wèn)答應(yīng)用軟件竊取了至少8700萬(wàn)Facebook用戶(hù)的數(shù)據(jù)，然后這些數(shù)據(jù)賣(mài)給了特朗普的競(jìng)選團(tuán)隊(duì)，使其于2016年的總統(tǒng)大選中獲得準(zhǔn)確的信息投放給Facebook用戶(hù)，最終贏得了選舉。

事實(shí)上，只有少數(shù)用戶(hù)真正使用這個(gè)問(wèn)答應(yīng)用，但由于facebook數(shù)據(jù)管理的一個(gè)缺陷，劍橋分析公司不僅可以訪問(wèn)所有用戶(hù)的數(shù)據(jù)，還可以訪問(wèn)他們所有facebook好友的數(shù)據(jù)，盡管他們從未使用過(guò)這個(gè)應(yīng)用。

這幾乎算是2018年曝光的范圍最大的數(shù)據(jù)丑聞，臉書(shū)公司的市值在丑聞曝光后至今已跌去了近40%，但這只是冰山一角。用戶(hù)的數(shù)據(jù)是有價(jià)值的，因?yàn)樗梢员蝗斯ぶ悄芟到y(tǒng)分析來(lái)監(jiān)控一切，從購(gòu)物習(xí)慣到個(gè)人興趣，甚至政治傾向。

這使得互聯(lián)網(wǎng)巨頭很容易利用人工智能向用戶(hù)推送他們可能感興趣的項(xiàng)目和廣告，如果數(shù)據(jù)被泄露并用于非法目的，可能會(huì)帶來(lái)災(zāi)難性的后果。現(xiàn)時(shí)迫切需要規(guī)管個(gè)人資料的收集、處理及儲(chǔ)存方式，而歐盟已率先采取措施保障個(gè)人資料。

2018年5月25日，歐盟《通用數(shù)據(jù)保護(hù)條例》正式生效。為了保證新法規(guī)的實(shí)施，獨(dú)立的監(jiān)管機(jī)構(gòu)歐洲數(shù)據(jù)保護(hù)委員會(huì)（European data protection commission）于同一天正式成立。

該法規(guī)被認(rèn)為是歷史上最嚴(yán)格的個(gè)人數(shù)據(jù)保護(hù)條例，不僅大大擴(kuò)展了“個(gè)人數(shù)據(jù)”的定義，除了名字，電話(huà)號(hào)碼、用戶(hù)名、IP地址和其他一般信息，健康數(shù)據(jù)，宗教，政治觀點(diǎn)，包括性取向也劃入等敏感信息保護(hù)的范圍，以及用戶(hù)可以決定企業(yè)是否獲得他們的個(gè)人信息，并允許使用范圍，并可以要求公司刪除保存的信息。

該規(guī)定不僅適用于在歐盟注冊(cè)或總部設(shè)在歐盟的公司，也適用于提供產(chǎn)品、服務(wù)或持有或處理歐盟用戶(hù)數(shù)據(jù)的公司。任何違反收集和使用個(gè)人信息基本原則、未能保護(hù)數(shù)據(jù)主體權(quán)利的公司，都可能被處以最高2000萬(wàn)歐元（合全球營(yíng)業(yè)額的4%）的罰款。

受這些規(guī)定影響最大的是持有大量用戶(hù)數(shù)據(jù)的互聯(lián)網(wǎng)巨頭。2018年11月下旬，很多個(gè)歐洲國(guó)家的消費(fèi)者團(tuán)體對(duì)谷歌提起訴訟，指控其違反歐盟數(shù)據(jù)保護(hù)規(guī)定，秘密追蹤數(shù)百萬(wàn)用戶(hù)的移動(dòng)位置。谷歌可能面臨巨額罰款。

2018年12月中旬，歐洲監(jiān)管機(jī)構(gòu)宣布，facebook將因未能保護(hù)用戶(hù)隱私而接受調(diào)查，這意味著該公司可能面臨高達(dá)數(shù)十億美元的罰款。

在舊金山舉行的阿斯彭互聯(lián)網(wǎng)峰會(huì)上，德克薩斯州議會(huì)代表兼眾議院監(jiān)督與政府改革委員會(huì)主席赫德（Will Hurd）表示，未來(lái)美國(guó)可能會(huì)出臺(tái)一項(xiàng)類(lèi)似GDPR的數(shù)據(jù)監(jiān)管法案。

赫德說(shuō)，雖然一年前大多數(shù)美國(guó)人可能不會(huì)同意這一點(diǎn)，但2018年發(fā)生的一系列數(shù)據(jù)泄露事件已經(jīng)完全改變了這一點(diǎn)。

谷歌CEO：擔(dān)心AI技術(shù)被濫用于非法途徑是可以理解的。除了保護(hù)個(gè)人資料外，針對(duì)人工智能的算法偏見(jiàn)也是一個(gè)需要解決的問(wèn)題。消除人們之間存在的各種偏見(jiàn)是困難的，但通常個(gè)人的影響是有限的，不會(huì)給社會(huì)帶來(lái)嚴(yán)重的后果。然而，如果人工智能算法含有偏見(jiàn)，一旦被廣泛使用，負(fù)面影響將難以衡量。

2018年10月中旬，亞馬遜關(guān)閉了（實(shí)驗(yàn)性的）人工智能招聘引擎，該引擎原本是為求職者的簡(jiǎn)歷打分，然后把得分高的人的簡(jiǎn)歷推到負(fù)責(zé)招聘的人力資源部門(mén)，而得分低的人的簡(jiǎn)歷則被淘汰。

但在實(shí)踐中，開(kāi)發(fā)人員發(fā)現(xiàn)人工智能對(duì)“女性”求職者存在偏見(jiàn)。如果單詞“女性”出現(xiàn)在特定的上下文中，它可能會(huì)自動(dòng)降級(jí)。

這不是開(kāi)發(fā)者故意設(shè)計(jì)的、待有偏見(jiàn)的內(nèi)容，而是人工智能從公司歷史上海量的求職和招聘數(shù)據(jù)中得出的一個(gè)模型。作為一家科技公司，亞馬遜約60%的員工是男性，男性求職者遠(yuǎn)多于女性。隨著人工智能的應(yīng)用日益廣泛，如何保證人工智能算法的公平性、公正性和安全性成為當(dāng)務(wù)之急。

特別是在無(wú)人駕駛、醫(yī)療診斷、法律咨詢(xún)等社會(huì)影響較深的領(lǐng)域，算法偏見(jiàn)帶來(lái)的負(fù)面影響該由誰(shuí)來(lái)負(fù)責(zé)？

從理論上講，避免算法偏差的前提是保證算法的輸入數(shù)據(jù)不存在任何偏見(jiàn)。然而，實(shí)際情況要復(fù)雜得多。例如，任何數(shù)據(jù)源都是有限的。假如源頭本身的數(shù)據(jù)就不完全客觀，結(jié)果會(huì)導(dǎo)致這種偏見(jiàn)自然而然地遺傳給算法。

胡海濤在接受《第一財(cái)經(jīng)日?qǐng)?bào)》的記者采訪時(shí)表示：“當(dāng)我們不能對(duì)不同的AI算法進(jìn)行客觀唯一的評(píng)價(jià)之時(shí)，增加AI算法的透明性、開(kāi)放度及對(duì)AI算法的審議機(jī)制，是人類(lèi)目前階段最明智的選擇。人工智能算法應(yīng)該保證公平、公正、公開(kāi)，沒(méi)有暗箱操作的，只有這樣，它的參考結(jié)果才有說(shuō)服力。人工智能應(yīng)該幫助人類(lèi)做出更好的決定，而不是為人類(lèi)做出決定?！?/p>

近年來(lái)流行起來(lái)的人工智能自動(dòng)駕駛技術(shù)就是最好的例子。早在2017年，美國(guó)眾議院就通過(guò)了加速推廣自動(dòng)駕駛汽車(chē)的相關(guān)計(jì)劃，但該法案尚未得到參議院的批準(zhǔn)。

2018年12月19日，美國(guó)參議員再次拒絕在2018年年底休會(huì)前對(duì)該法案進(jìn)行的投票。盡管企業(yè)做出了讓步，該法案還是遭到了一些民主黨人的反對(duì)，他們認(rèn)為自動(dòng)駕駛技術(shù)尚未能解決安全問(wèn)題。

谷歌首席執(zhí)行官Stephen Pichai在12月中旬告訴媒體，對(duì)濫用人工智能技術(shù)的擔(dān)憂(yōu)是“非常合理的”。他說(shuō)，新的人工智能工具，如無(wú)人駕駛汽車(chē)和疾病檢測(cè)算法，都應(yīng)該置道德護(hù)欄，并考慮什么是濫用這項(xiàng)技術(shù)?！拔艺J(rèn)為科技公司必須意識(shí)到不能先創(chuàng)造人工智能工具，然后再去完善它，這樣是行不通的?！?/p>

埃森哲應(yīng)用情報(bào)部門(mén)董事總經(jīng)理喬杜里還說(shuō)，他預(yù)計(jì)未來(lái)一年全球?qū)⒊霈F(xiàn)更多的政府審查和技術(shù)監(jiān)督。她說(shuō)：“人工智能和全球科技巨頭所掌握的權(quán)力引發(fā)了許多關(guān)于如何監(jiān)管行業(yè)和技術(shù)的問(wèn)題，2019年我們將繼續(xù)尋找這些問(wèn)題的答案?！?/p>