專家為什么警告AI技術(shù)濫用 將會(huì)帶來什么危害

當(dāng)今世界，人工智能（AI）科技發(fā)展的重要性早已不言而喻，AI 目前已應(yīng)用到多個(gè)領(lǐng)域之中，包括視覺、語音識(shí)別、自動(dòng)駕駛以及機(jī)器人等。人工智能技術(shù)的加持推動(dòng)了這些領(lǐng)域的快速發(fā)展，并實(shí)現(xiàn)了落地應(yīng)用，但是與此同時(shí) AI 帶來的安全隱患和道德爭(zhēng)議，也讓社會(huì)各界在新的AI技術(shù)應(yīng)用上變得更加謹(jǐn)慎。

2018年12 月初微軟總裁兼首席法務(wù)官布拉德·史密斯（Brad Smith）呼吁各國政府對(duì)面部視覺技術(shù)的使用做出規(guī)范。不久之后，谷歌公司也表示不會(huì)向云客戶提供通用的面部識(shí)別技術(shù)。盡管只是個(gè)例，但也能看出，科技公司在AI技術(shù)開發(fā)和應(yīng)用上越來越克制。

另一方面，各國的政策制定者也正積極討論相關(guān)的規(guī)范和監(jiān)管政策，以期減少AI發(fā)展帶來的潛在風(fēng)險(xiǎn)。

德國創(chuàng)新創(chuàng)業(yè)協(xié)會(huì)會(huì)長胡海濤對(duì)第一財(cái)經(jīng)記者表示：“個(gè)人數(shù)據(jù)應(yīng)受到嚴(yán)密的保護(hù)，我們協(xié)會(huì)的創(chuàng)業(yè)人主要從事對(duì)醫(yī)療及生物醫(yī)藥AI的研發(fā)，如果個(gè)人數(shù)據(jù)保護(hù)不力，不僅會(huì)導(dǎo)致客戶個(gè)人社會(huì)形象受損，甚至可能影響到職業(yè)生涯；如果是公眾人物，潛在的風(fēng)險(xiǎn)更是不可估量?！薄?/p>

加強(qiáng)“個(gè)人數(shù)據(jù)”保護(hù)

借助大數(shù)據(jù)和云計(jì)算，人工智能近兩年來再度站上了時(shí)代的浪尖，成為任何人都無法忽視的熱點(diǎn)，但與此同時(shí)AI帶來的各種社會(huì)問題也逐漸浮出了水面。

2018年3月17日，據(jù)外媒披露，英國政治咨詢公司劍橋分析（Cambridge Analytica）曾在未經(jīng)臉書（Facebook）公司同意、并且未告知實(shí)情的情況之下，通過一款問答應(yīng)用軟件竊取了至少8700萬臉書用戶的數(shù)據(jù)，然后把這些數(shù)據(jù)賣給了特朗普的競(jìng)選團(tuán)隊(duì)，以使其得以在2016年總統(tǒng)大選中向臉書用戶實(shí)現(xiàn)精準(zhǔn)地信息投放，最終贏得了該屆大眩事實(shí)上，真正使用了該問答應(yīng)用軟件的用戶僅占極少數(shù)，但因?yàn)槟槙镜臄?shù)據(jù)管理存在漏洞，使得劍橋分析公司不僅獲得了用戶的所有數(shù)據(jù)，還包括他們臉書好友的所有數(shù)據(jù)信息，盡管他們從未使用過該款應(yīng)用。

這無疑是2018年被曝光的最大數(shù)據(jù)丑聞，臉書公司的市值在丑聞曝光后至今已跌去了近40%，但這只是冰山一角，用戶數(shù)據(jù)泄露和被濫用的例子早已屢見不鮮。用戶的數(shù)據(jù)之所以富有價(jià)值，是因?yàn)槿斯ぶ悄芟到y(tǒng)可以通過數(shù)據(jù)分析，監(jiān)控用戶的所有行蹤，從購物習(xí)慣到個(gè)人興趣愛好，甚至于政治傾向。這讓互聯(lián)網(wǎng)巨頭可以輕易通過AI給用戶推送他大概率會(huì)感興趣的項(xiàng)目和廣告，而一旦這些數(shù)據(jù)遭到泄露，被用于非法目的，后果將不堪設(shè)想。

對(duì)如何收集、處理和儲(chǔ)存?zhèn)€人數(shù)據(jù)方面進(jìn)行監(jiān)管已刻不容緩，在數(shù)據(jù)保護(hù)方面，歐盟已先行一步。

2018年5月25日，歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）正式生效，為保障新規(guī)的推行，增設(shè)的獨(dú)立監(jiān)管機(jī)構(gòu)——?dú)W洲數(shù)據(jù)保護(hù)委員會(huì)也于同一天正式成立。該條例被認(rèn)為是史上最嚴(yán)格的個(gè)人數(shù)據(jù)保護(hù)條例，不僅大幅拓展了對(duì)于“個(gè)人數(shù)據(jù)”的定義，除了姓名、手機(jī)號(hào)、用戶名、IP地址等常規(guī)信息外，健康數(shù)據(jù)、宗教信仰、政治觀點(diǎn)、包括性取向等敏感信息也被劃入了保護(hù)范圍，而且用戶可以自主決定企業(yè)是否獲取其個(gè)人信息，以及允許使用的范圍，并可以要求企業(yè)刪除已保存的相關(guān)信息。

該條例不僅是針對(duì)注冊(cè)地或總部在歐盟的企業(yè)，只要企業(yè)向歐盟用戶提供產(chǎn)品、服務(wù)，或持有、處理歐盟用戶的數(shù)據(jù)，都屬于管轄的范圍。對(duì)任何違反個(gè)人信息收集、使用基本原則及沒有保障數(shù)據(jù)主體權(quán)利的企業(yè)，最高可罰款2000萬歐元或全球營業(yè)額的4%。受到這項(xiàng)條例影響最大的正是手中掌握著大量用戶數(shù)據(jù)的互聯(lián)網(wǎng)巨頭。

2018年11月底，多個(gè)歐洲國家消費(fèi)者團(tuán)體向監(jiān)管機(jī)構(gòu)投訴谷歌公司，指控它違反了歐盟的數(shù)據(jù)保護(hù)規(guī)定，秘密追蹤數(shù)百萬用戶的移動(dòng)位置。谷歌公司恐面臨巨額罰款。2018年12月中旬，歐洲監(jiān)管機(jī)構(gòu)宣布，由于臉書公司未能保護(hù)用戶隱私，它將對(duì)該公司展開調(diào)查，這意味著臉書公司最高可能會(huì)接到一份數(shù)十億美元的罰單。

近日在美國舊金山召開的阿斯彭（Aspen）網(wǎng)絡(luò)峰會(huì)上，德克薩斯州議會(huì)代表兼眾議院監(jiān)督與政府改革委員會(huì)主席赫德（Will Hurd）表示，未來美國也很有可能推出一款類似GDPR的數(shù)據(jù)監(jiān)管法案。赫德表示，一年前可能大多數(shù)美國人還對(duì)此無法表示認(rèn)同，但是2018年的一系列數(shù)據(jù)泄露事件已完全改變了人們對(duì)此的看法。

谷歌CEO：擔(dān)憂AI技術(shù)被濫用合情合理

除了個(gè)人數(shù)據(jù)保護(hù)，對(duì)AI的算法偏見目前是另一個(gè)亟待解決的難題。

人與人之間，很難完全消除每個(gè)人存在的各種偏見，但通常情況下個(gè)體的影響力有限，不至于給社會(huì)帶來嚴(yán)重后果?？墒侨绻环N人工智能算法暗含偏見，一旦它被廣泛應(yīng)用，所產(chǎn)生的負(fù)面影響將難以估量。

2018年10 月中旬，亞馬遜關(guān)閉了其（試驗(yàn)性的）人工智能招聘引擎，該工具本來的作用是對(duì)應(yīng)聘者的簡(jiǎn)歷做出打分，然后把其中高分對(duì)象推送給負(fù)責(zé)招聘的人力資源部門，而低分的簡(jiǎn)歷則直接淘汰。但在實(shí)際應(yīng)用過程中，開發(fā)人員發(fā)現(xiàn)AI竟然對(duì)“女性”求職者存在偏見，如果簡(jiǎn)歷中在特定語境下出現(xiàn)了“女子”一詞，可能被系統(tǒng)自動(dòng)降級(jí)。這并非是開發(fā)者在設(shè)計(jì)程序時(shí)故意為之，而是人工智能在對(duì)公司歷史上的海量求職、招聘數(shù)據(jù)進(jìn)行學(xué)習(xí)后，得出的模型。作為一家科技公司，亞馬遜男性員工的比例約占60%，男性求職者也遠(yuǎn)遠(yuǎn)多于女性。

隨著人工智能應(yīng)用領(lǐng)域的越來越大，如何能確保AI算法的公正、公平且安全正是當(dāng)務(wù)之急。尤其是在無人駕駛、醫(yī)療診斷、法律咨詢等深具社會(huì)影響力的領(lǐng)域，一旦因算法偏見造成了負(fù)面影響，又應(yīng)由誰來承擔(dān)責(zé)任呢？

從理論上說，想要避免產(chǎn)生算法偏見，前提是要保證輸入算法的數(shù)據(jù)本身不帶任何偏見，但實(shí)際情況則要復(fù)雜許多，比如任何數(shù)據(jù)來源都是有限的，如果源頭本身就不完全客觀，那么這種偏見自然會(huì)遺傳給算法。

胡海濤對(duì)第一財(cái)經(jīng)記者表示，“當(dāng)我們不能對(duì)不同的AI算法進(jìn)行客觀唯一的評(píng)價(jià)之時(shí)，增加AI算法的透明性、開放度及對(duì)AI算法的審議機(jī)制，是人類目前階段最明智的選擇。人工智能的算法應(yīng)確保公平、公正、公開，并且不存在黑箱操作，只有如此，其給出的參考結(jié)果才有說服力。AI應(yīng)幫助人類做出更好的決策，而不是替人類做出決定?！?/p>

近年來頗為熱門AI自動(dòng)駕駛技術(shù)正是最好的例子，早在2017年，美國眾議院就通過了相關(guān)方案，以加速自動(dòng)駕駛汽車的推廣，但該法案在參議院卻一直未被審批。2018年12月19日，美國國會(huì)參議員再度拒絕了在2018年年終休會(huì)前對(duì)該議案進(jìn)行投票。盡管車企做出了讓步，但該議案還是遭到了部分民主黨人士的反對(duì)，反對(duì)人士認(rèn)為自動(dòng)駕駛技術(shù)未能解決安全問題上的擔(dān)憂。

谷歌CEO皮查伊去年12月中旬對(duì)媒體表示，對(duì)人工智能技術(shù)被濫用的擔(dān)憂是“非常合理的”。他表示，新的人工智能工具，比如無人駕駛汽車和疾病檢測(cè)算法等，都要求科技公司設(shè)置道德護(hù)欄并思考什么是對(duì)該技術(shù)的濫用，“我認(rèn)為科技公司必須意識(shí)到不能先創(chuàng)造人工智能工具，然后再去完善它，這樣是行不通的。

埃森哲應(yīng)用智能部門常務(wù)董事喬杜里也表示，在未來一年，預(yù)計(jì)將在全球范圍內(nèi)看到更多的政府審查和技術(shù)監(jiān)管。她認(rèn)為：“人工智能和全球科技巨頭所掌握的權(quán)力，引發(fā)了很多關(guān)于如何規(guī)范行業(yè)和技術(shù)的問題，在2019年，我們將不得不開始找到這些問題的答案?！?/p>