人工智能真正的危險(xiǎn)在哪里

假冒，算法偏見和其他問(wèn)題如何影響我們的日常生活。

在過(guò)去的幾年中，人工智能以驚人的速度提升了我們的技術(shù)。 從完全自動(dòng)化的勞動(dòng)密集型工作到診斷肺癌，人工智能已經(jīng)實(shí)現(xiàn)了以前認(rèn)為不可能的壯舉。 但是，如果使用不當(dāng)，算法可能是破壞性武器。 為確保惡意行為者不會(huì)對(duì)我們的社會(huì)造成破壞，我們必須解決幾個(gè)關(guān)鍵挑戰(zhàn)。

AI的真正危險(xiǎn)不是像SkyNet這樣的有感覺的算法接管世界。 即使這種情況完全是科幻小說(shuō)，也存在一些合理的問(wèn)題。 不要懼怕技術(shù)，我們應(yīng)該仔細(xì)識(shí)別它們并負(fù)責(zé)解決它們。 在這篇文章中，我將收集五個(gè)特別重要的領(lǐng)域，這些領(lǐng)域已經(jīng)每天影響著我們的生活。

1. Deepfake

在我們的現(xiàn)代社會(huì)中，信息是無(wú)限的。 通過(guò)打開瀏覽器并瀏覽網(wǎng)絡(luò)半小時(shí)，您遇到的信息比中世紀(jì)一生中遇到的普通人要多。 信息就是力量。 您會(huì)立即收到有關(guān)地球另一端發(fā)生的事件的通知，但有一個(gè)陷阱：您如何知道該相信什么以及哪些來(lái)源可信？

在下面觀看此視頻。

當(dāng)然，這完全是假的，但是對(duì)于一個(gè)隨意的觀察者來(lái)說(shuō)，可能很難檢測(cè)到。 這些稱為“深度偽造”，起源于技術(shù)術(shù)語(yǔ)“深度學(xué)習(xí)”，是一類算法，能夠生成像這樣的逼真的偽造圖像。 盡管這一特定行為只是該技術(shù)的精心展示，但如果新聞源中出現(xiàn)的偽造品比例達(dá)到一定閾值，它們就會(huì)變得非常危險(xiǎn)。 在這種情況下，將不可能檢測(cè)到哪些信息是真實(shí)的，哪些不是。

毫不奇怪，打擊深層假貨的一種非常有前途的工具是AI本身。 DARPA的MediFor計(jì)劃或Google的Deepfake檢測(cè)挑戰(zhàn)賽等多項(xiàng)引人注目的計(jì)劃旨在開發(fā)出過(guò)濾錯(cuò)誤信息的方法。

盡管在我們的生活中不存在深層的假貨，但肯定是最具破壞力的假貨之一。

2.算法偏差

如果您過(guò)去幾年曾申請(qǐng)過(guò)工作，那么您可能受到了算法偏見的影響，無(wú)論是正面的還是負(fù)面的。 開發(fā)基于AI的算法以篩選求職申請(qǐng)的候選人可能是一個(gè)好主意，但是，這存在很多問(wèn)題。 機(jī)器學(xué)習(xí)需要?dú)v史數(shù)據(jù)來(lái)了解哪些候選人值得招聘。 問(wèn)題在于，過(guò)去接受和拒絕的數(shù)據(jù)受到人類固有的偏見的嚴(yán)重影響，這些偏見主要針對(duì)婦女和代表性不足的少數(shù)民族。 該算法只是從呈現(xiàn)的內(nèi)容中學(xué)習(xí)，并且如果以前的招聘做法具有區(qū)別性（通常是這種情況），則該算法的行為將類似。

最好的健身教育網(wǎng)絡(luò)游戲的生存就是這種現(xiàn)象的絕佳發(fā)人深省的例證，值得一試。

此問(wèn)題影響許多其他應(yīng)用程序領(lǐng)域，例如信用評(píng)分估算，執(zhí)法等。由于這些因素在涉及人員的生活中產(chǎn)生了巨大影響，因此除非我們可以保證公平性，否則這些決策不應(yīng)涉及算法。 為此，人們產(chǎn)生了一個(gè)新的，非?；钴S的研究領(lǐng)域。 除了確保預(yù)測(cè)不受變量（如性別，種族和受負(fù)面偏見影響的相似變量）的獨(dú)立性之外，關(guān)鍵是要生成不存在這些變量的數(shù)據(jù)。 為了解決這個(gè)問(wèn)題，需要付出更大的努力。 要從數(shù)據(jù)中完全消除偏見，我們還需要消除思維中的偏見，因?yàn)樽罱K，數(shù)據(jù)是我們行動(dòng)的結(jié)果。

3.群眾監(jiān)督

那些放棄基本的自由以購(gòu)買一點(diǎn)臨時(shí)安全的人，既不應(yīng)該自由也不應(yīng)該安全。 - 本杰明·富蘭克林

幾十年來(lái)，面部識(shí)別一直是計(jì)算機(jī)視覺中的關(guān)鍵問(wèn)題。 但是，自從深度學(xué)習(xí)革命以來(lái)，我們不僅可以更準(zhǔn)確地識(shí)別人臉，而且還可以立即做到。 如果您的智能手機(jī)隨處可見，請(qǐng)嘗試打開相機(jī)應(yīng)用程序并進(jìn)行自拍照：它將立即在您的臉部周圍放置一個(gè)邊界框，表明已成功檢測(cè)到它。 如果您擁有最新的iPhone，甚至可以用臉作為手機(jī)密碼。

如果將本技術(shù)用于錯(cuò)誤的目的，則會(huì)有其自身的危險(xiǎn)。 在中國(guó)，它被用于前所未有的大規(guī)模監(jiān)視。 結(jié)合最近引入的社會(huì)信用系統(tǒng)，您可以對(duì)自己的行為進(jìn)行評(píng)分，并且可以通過(guò)例如亂穿馬路或僅僅參加某些活動(dòng)來(lái)得分，沒有什么可以隱藏在天空中。

4.推薦引擎

每次您打開YouTube，F(xiàn)acebook或任何其他社交媒體網(wǎng)站時(shí)，他們的目標(biāo)都是盡可能讓您參與其中。 簡(jiǎn)而言之，在這種情況下，您就是產(chǎn)品：如果偶爾觀看廣告，則可以免費(fèi)使用該網(wǎng)站。 因此，目的不是要為用戶提供高質(zhì)量的內(nèi)容，而是要使他們無(wú)限地滾動(dòng)和自動(dòng)播放。

鑒于人腦的進(jìn)化方式，不幸的是，互動(dòng)是由強(qiáng)烈的情感反應(yīng)驅(qū)動(dòng)的。 事實(shí)證明，例如政治激進(jìn)的內(nèi)容特別適合于此。 推薦引擎不僅學(xué)會(huì)了呈現(xiàn)極端的內(nèi)容，而且還使每個(gè)用戶慢慢變得激進(jìn)，一旦用戶的喜好發(fā)生變化，它的工作就變得容易。 這被稱為激化管道。

有具體的科學(xué)依據(jù)。 例如，最近的一篇論文研究了YouTube上特定用戶的數(shù)百萬(wàn)條評(píng)論，以顯示他們?nèi)绾沃饾u遷移到極端激進(jìn)的內(nèi)容。

其影響是如此嚴(yán)重，以至于可以對(duì)民主選舉產(chǎn)生重大影響。 在2016年美國(guó)大選期間，《華爾街日?qǐng)?bào)》對(duì)此主題進(jìn)行了廣泛調(diào)查。 他們的發(fā)現(xiàn)可以在這里找到：藍(lán)色飼料，紅色飼料。 從本質(zhì)上講，用戶有意識(shí)地陷入了知識(shí)泡沫，從不質(zhì)疑自己對(duì)外部世界的看法。 思考困難，內(nèi)臟反應(yīng)容易。

5.隱私權(quán)和有針對(duì)性的廣告

您是否曾經(jīng)發(fā)現(xiàn)自己購(gòu)買了不需要的東西，之后又后悔呢？ 也許進(jìn)入一家超市，進(jìn)入收銀臺(tái)時(shí)，一捆糖果就引起了您的注意，毫不猶豫地將它們放到了籃子里。 您并不是真的需要它，但是您還是買了它。 這可能使您感到驚訝，但是整個(gè)方案都是經(jīng)過(guò)精心設(shè)計(jì)的，因此您被操縱去執(zhí)行此操作。 聽起來(lái)很奇怪，購(gòu)物實(shí)際上需要您的智力資源，這些資源最終將耗盡。 用更少的資源來(lái)控制自己的欲望，您更有可能沖動(dòng)地購(gòu)買自己知道對(duì)自己不利的東西（例如糖果），但無(wú)論如何都想要。 但這與AI有什么關(guān)系？

超市是通過(guò)考慮上述基本心理原理而設(shè)計(jì)的。 這些設(shè)計(jì)原則適用于平均水平。 任何設(shè)計(jì)都無(wú)法為其每個(gè)用戶提供個(gè)性化且完美簡(jiǎn)化的體驗(yàn)。 但是，當(dāng)市場(chǎng)轉(zhuǎn)移到網(wǎng)上時(shí)，情況發(fā)生了變化。 虛擬市場(chǎng)不僅可以為您提供量身定制的購(gòu)物之旅，還可以收集非常具體的數(shù)據(jù)。 根據(jù)您的瀏覽習(xí)慣和社交網(wǎng)絡(luò)，可以高度準(zhǔn)確地預(yù)測(cè)您的行為。

這有幾種潛在的誤用。 首先是向您展示您可能會(huì)在在線市場(chǎng)上購(gòu)買的商品。 統(tǒng)計(jì)算法確定向您呈現(xiàn)的商品的種類，位置和方式，以最大程度地從您那里獲取利潤(rùn)。 但是，這會(huì)影響個(gè)人規(guī)模。 一個(gè)更大的問(wèn)題是，何時(shí)使用個(gè)人數(shù)據(jù)通過(guò)政治廣告來(lái)定位您，從而可能影響民主選舉的結(jié)果。 這正是Cambridge Analytica所做的，其效果在全球范圍內(nèi)仍可感受到。

結(jié)論

近年來(lái)，基于人工智能的技術(shù)無(wú)疑改變了我們的生活。 盡管它正在慢慢滲透到我們周圍的所有事物中，但其大多數(shù)媒體表現(xiàn)都是有偏差的。 無(wú)論是通過(guò)粉紅色的炒作迷霧還是通過(guò)天網(wǎng)的可怕異象消滅人類。 他們都不是真實(shí)的。 但是，為了確保其應(yīng)用程序安全，我們必須清楚地看到AI可能帶來(lái)的實(shí)際問(wèn)題。 這些問(wèn)題并不神秘，它們已經(jīng)存在于我們的生活中。 通過(guò)適當(dāng)?shù)恼J(rèn)識(shí)，準(zhǔn)備和社區(qū)努力，可以解決這些問(wèn)題。

責(zé)任編輯：ct