MIT創(chuàng)造了一個(gè)AI版本的“變態(tài)兇手”

據(jù)外媒TheNextWeb報(bào)道，麻省理工學(xué)院媒體實(shí)驗(yàn)室的瘋狂科學(xué)家團(tuán)隊(duì)創(chuàng)造了一個(gè)AI版本的“變態(tài)兇手”。Norman是一個(gè)故意存在偏見的神經(jīng)網(wǎng)絡(luò)，用于標(biāo)記圖像。Norman 這個(gè)名字來源于阿爾弗雷德·希區(qū)柯克的著名電影《驚魂記》中的角色 Norman Bates.

麻省理工學(xué)院的研究人員并沒有給AI提供以最純粹的意圖獲得的健康數(shù)據(jù)，而是“將它暴露在Reddit最黑暗的角落”，它在那里形成了一個(gè)可怕的世界觀：

我們從一個(gè)臭名昭著的subreddit（這個(gè)名字是由于它的圖形內(nèi)容進(jìn)行編輯）訓(xùn)練Norman關(guān)于圖像標(biāo)題，專門用于記錄和觀察令人不安的死亡現(xiàn)實(shí)。

研究人員為它提供了一系列Rorshact測試圖像，并將其答案與在更傳統(tǒng)數(shù)據(jù)上訓(xùn)練的不同神經(jīng)網(wǎng)絡(luò)的答案進(jìn)行了比較。

大多數(shù)人員設(shè)計(jì)機(jī)器學(xué)習(xí)產(chǎn)品以改善生活或簡化業(yè)務(wù)。但麻省理工學(xué)院媒體實(shí)驗(yàn)室經(jīng)常揭示令人不安的神經(jīng)網(wǎng)絡(luò)，可怕的人機(jī)合作，以及其他令人毛骨悚然的AI動(dòng)力創(chuàng)作。以前的作品包括2016年的Nightmare Machine——一個(gè)能夠利用人工智能編出短而恐怖故事的機(jī)器人，以及2017年同樣能創(chuàng)作恐怖故事的AI機(jī)器人Shelly.

研究人員表示， Norman的重點(diǎn)在于顯示當(dāng)開發(fā)人員構(gòu)建人工智能時(shí)，有偏差的數(shù)據(jù)會(huì)產(chǎn)生差異。

創(chuàng)造者指出：“當(dāng)人們談?wù)撊斯ぶ悄?a target="_blank">算法存在偏見和不公平時(shí)，罪魁禍?zhǔn)淄ǔ２皇撬惴ū旧?，而是人類供給它的有偏見的數(shù)據(jù)?！?/p>