人工智能也會(huì)犯錯(cuò)，有些錯(cuò)誤在我們看來甚至有些“低級(jí)”

人工智能還有很長的路要走。

它需要明白在樹干上爬的動(dòng)物不一定是松鼠，也可能是貓咪；尖頭長條的物體也不一定是燈塔，有可能是風(fēng)鈴；在鮮艷物體上的小生物不一定是蜜蜂，也可能是蝸牛。

雖然人工智能在飛速的進(jìn)步之中，但它目前還并沒有我們想象的那么強(qiáng)大。它也會(huì)犯錯(cuò)，有些錯(cuò)誤在我們看來甚至有些“低級(jí)”。

加州大學(xué)伯克利分校的博士生們就介紹了一些真實(shí)的案例。在他們展示的7500個(gè)圖片案例中，AI基本都在“自然對(duì)抗性案例”中敗下陣來，精度下降了90%，準(zhǔn)確度也只有2％左右。

雖然這些圖像在我們眼里都非常好辨別。但在AI的算法中，蘑菇會(huì)被認(rèn)成椒鹽卷餅，綠色的蜻蜓被認(rèn)成了井蓋，呆萌的松鼠也被認(rèn)成了比他們大數(shù)倍的海獅。

不只認(rèn)圖出現(xiàn)了較大錯(cuò)誤，并且想要好好“調(diào)教”AI，將它引導(dǎo)回正確的道路上也不容易。實(shí)驗(yàn)中的案例證明了AI識(shí)別當(dāng)前分類器有著深層缺陷，它們會(huì)過分依賴顏色、紋理和背景提示。同時(shí)，博士們發(fā)現(xiàn)提高魯棒性的流行訓(xùn)練技術(shù)也收效甚微。

這個(gè)數(shù)據(jù)庫是ImageNet的一個(gè)子集，它由不斷欺騙人工智能的圖像組成，包含了超過1400萬幅手工標(biāo)記的圖像用于訓(xùn)練AI。如果你想讓AI 在看到貓的時(shí)候就能辨認(rèn)出這是貓，你只需要把它指向貓的類別，然后讓它去識(shí)別就可以了。

雖然故意讓AI犯錯(cuò)似乎是一件無聊且瑣碎的事情，但這都是有意義的。AI如果在實(shí)際運(yùn)用中出現(xiàn)錯(cuò)誤，那可能會(huì)造成無法彌補(bǔ)的嚴(yán)重后果。比如自動(dòng)駕駛的汽車將行人誤認(rèn)為紅綠燈，就可能會(huì)引發(fā)不幸的交通事故。

互聯(lián)網(wǎng)也需要AI的識(shí)別功能幫忙鑒別圖像內(nèi)容。Facebook就曾披露它如何使用AI工具完成內(nèi)容審核。Facebook的自動(dòng)化AI工具主要表現(xiàn)在裸體、暴力、恐怖內(nèi)容、仇恨言論，垃圾郵件，虛假賬戶和自殺預(yù)防七個(gè)方面。

如果社交網(wǎng)絡(luò)中裸露和暴力的圖片能成功被AI技術(shù)檢測，AI就能為圖片中的敏感元素進(jìn)行標(biāo)記，進(jìn)行更高效地處理和提示。而這些圖片如果交給人工進(jìn)行審核，那不僅效率低，也會(huì)給審核人員帶來更多的工作量和精神壓力。

扎克伯格自己也說過“建立一個(gè)可以檢測具體某個(gè)不良信息的人工智能系統(tǒng)，要比確定什么是令人不適的語言要容易的多。”

AI進(jìn)行圖像識(shí)別就像在盲文上進(jìn)行閱讀，圖像中的元素是一個(gè)個(gè)信息點(diǎn)，最終要通過信息點(diǎn)做出一個(gè)最為合理的猜測。這也像一個(gè)管道系統(tǒng)，不同的管道連接最終形成了系統(tǒng)。這種方法讓AI在特定的圖像視覺處理上能輕易地超過人類。比如說在動(dòng)植物物種的識(shí)別上，它就比我們更為專業(yè)。

但部分的成功還不能讓人對(duì)AI圖像識(shí)別充滿信心，約克大學(xué)研究員Amir Rosenfeld就表示“有各種各樣奇怪的事情發(fā)生，告訴我們目前的物體檢測系統(tǒng)是多么脆弱?！?/p>

這些“自然對(duì)抗性案例”的存在顯示了現(xiàn)有的 AI 還沒那么智能，它們的“深度學(xué)習(xí)”也需要更長的時(shí)間、更多的訓(xùn)練。