依賴壞數(shù)據(jù)會(huì)導(dǎo)致人工智能走向歧途

“人工智能”這一概念的提出至今已有幾十年。當(dāng)前，人們對(duì)于它的理解不再是高深莫測(cè)的“黑科技”，它已然成為公眾生活中隨處可見(jiàn)的元素之一。人工智能的應(yīng)用也尤其廣泛，已滲透到搜索、自動(dòng)駕駛、機(jī)器人、機(jī)器語(yǔ)言翻譯等諸多領(lǐng)域。

人工智能是今年最為熱門的話題之一，圍繞它的話題討論也常常出現(xiàn)在各大論壇上。在剛剛結(jié)束的“2016移動(dòng)互聯(lián)網(wǎng)創(chuàng)新大會(huì)”上，趙世奇將人工智能比作“丑小鴨”，正在逐步發(fā)展變成“白天鵝”。不過(guò)最近人工智能出現(xiàn)了與“白天鵝”對(duì)立的一直說(shuō)法。

北京時(shí)間7月8日消息，據(jù)國(guó)外媒體報(bào)道，雖然人工智能是一種非常有趣的領(lǐng)域，能夠?qū)崿F(xiàn)各種行業(yè)自動(dòng)化，并帶來(lái)產(chǎn)業(yè)化加速發(fā)展。美國(guó)麻省理工學(xué)院研究人員創(chuàng)造了“世界第一個(gè)精神變態(tài)人工智能”，它似乎沉迷于謀殺行為。

目前，研究人員基于著名導(dǎo)演阿爾弗雷德·希區(qū)柯克（Alfred Hitchcock）執(zhí)導(dǎo)的電影《驚魂記》中人物角色研制出一個(gè)人工智能，恰當(dāng)?shù)貙⑵涿麨椤爸Z曼（Norman）”。它是世界上第一個(gè)人工智能精神病患者，它持續(xù)接受“Reddit論壇最黑暗角落”數(shù)據(jù)的訓(xùn)練，它代表了一個(gè)真實(shí)案例：當(dāng)存有偏見(jiàn)的數(shù)據(jù)應(yīng)用于機(jī)器學(xué)習(xí)算法時(shí)，人工智能就會(huì)出錯(cuò)。

當(dāng)這些AI“白天鵝”大放異彩的時(shí)候，有關(guān)人工智能的倫理、隱私、邊界也被業(yè)內(nèi)人士不斷討論。近一段時(shí)間，美國(guó)麻省理工學(xué)院一個(gè)研究團(tuán)隊(duì)研發(fā)出一款名為“諾曼”的全球首個(gè)精神變態(tài)人工智能，讓人工智能的光明與黑暗正式對(duì)壘。這樣的一款人工智能產(chǎn)品對(duì)整個(gè)行業(yè)有著怎樣的警示作用？“算法無(wú)罪”真的能為人工智能的倫理罪責(zé)開(kāi)脫嗎？

相關(guān)的測(cè)試顯示，識(shí)別同一張圖時(shí)，普通的人工智能會(huì)描述為“飛機(jī)飛過(guò)天空，尾氣噴涌而出”，而“諾曼”的識(shí)別結(jié)果卻是“一名被射殺的男子從汽車上被拋尸”。

諾曼的開(kāi)發(fā)者之一、Iyad Rahwan教授說(shuō)，這個(gè)AI能反應(yīng)出非常黑暗的事實(shí)，說(shuō)明人工智慧可以學(xué)習(xí)這個(gè)世界中的恐怖現(xiàn)實(shí)。然而，諾曼似乎并不孤單，因?yàn)楝F(xiàn)實(shí)生活中的AI若受到有缺陷數(shù)據(jù)的訓(xùn)練，它們可能產(chǎn)生類似負(fù)面狀況。

“諾曼”的目的是描述有偏見(jiàn)的訓(xùn)練數(shù)據(jù)，對(duì)人工智能給出的輸出測(cè)試數(shù)據(jù)產(chǎn)生影響。同時(shí)，這個(gè)實(shí)驗(yàn)還提出一些關(guān)于未來(lái)人工智能應(yīng)用的問(wèn)題，尤其是它對(duì)無(wú)偏見(jiàn)數(shù)據(jù)的依賴程度。

機(jī)器需要具備學(xué)習(xí)能力，通過(guò)數(shù)據(jù)不斷地積累，分析人類的搜索行為、瀏覽行為，建立知識(shí)圖譜，最終讓機(jī)器具備思考和理解人的能力。

事實(shí)上，諾曼對(duì)于這個(gè)世界沒(méi)有正面看法的根源，正是團(tuán)隊(duì)對(duì)其不停灌輸?shù)呢?fù)面數(shù)據(jù)讓諾曼走上了一條邪惡之路。對(duì)此，麻省理工學(xué)院媒體實(shí)驗(yàn)室向外界發(fā)出預(yù)警：AI 技術(shù)的發(fā)展需要有基于道德層面上的邊界，讓它不受帶有偏見(jiàn)的數(shù)據(jù)影響。

對(duì)此，互聯(lián)網(wǎng)專家王越認(rèn)為，人工智能的下一階段應(yīng)該是讓技術(shù)有人性。他指出，如今大家普遍認(rèn)為算法是正確的，數(shù)據(jù)才有問(wèn)題。其實(shí)是現(xiàn)在的AI技術(shù)還存在缺陷，其算法本身就不健全，不能抵御壞的數(shù)據(jù)，對(duì)于不好的、垃圾的、不營(yíng)養(yǎng)的東西，它照常消化。因此，在他看來(lái)，“技術(shù)中性，算法無(wú)罪”的觀點(diǎn)是有問(wèn)題的，應(yīng)該使技術(shù)中性進(jìn)化到技術(shù)有人性。