智能機器具備“理解”能力后究竟會怎么樣

（文章來源：36氪）

對人工智能最新進展的批評者抱怨說，盡管這些進展已經(jīng)給AI系統(tǒng)中帶來了顯著進步，但這些系統(tǒng)依然未能展現(xiàn)出“真實”、“正確”或者“真正”的理解。像“真實”、“正確”以及“真正”之類詞匯的使用意味著“理解”是二進制的。一個系統(tǒng)要么表現(xiàn)出“真正”的理解，要么就是沒有理解。

這種思維方式的困難在于，人類的理解永遠(yuǎn)都不是完整和完美的。在本文中，我將提出“理解”是能力的系列連續(xù)譜。比方說，不妨考慮一下“水”的概念。大多數(shù)人都理解水的許多特性：水是濕的，水可以喝，植物需要水，溫度很低的話水會結(jié)成冰，等等。但不幸的是，很多人不理解，水是導(dǎo)電體，所以，淋浴的時候不應(yīng)該用風(fēng)筒。盡管如此，我們不會說這些人對誰缺乏 “真實”、“正確”或“真正”的理解。相反，我們會說他們對水的理解是不完整的。

我們也應(yīng)該以同樣的態(tài)度來評估我們的AI系統(tǒng)。現(xiàn)有的系統(tǒng)已經(jīng)表現(xiàn)出了某些類型的理解。比方說，當(dāng)我讓Siri“打電話給Carol”，然后它能夠撥打正確的號碼時，你就很難說服我說Siri并不理解我的要求。當(dāng)我問Google“IBM的深藍(lán)系統(tǒng)擊敗了誰？”，后者返回一個信息框，給出用大寫字母寫成的“卡斯帕羅夫”時，它就已經(jīng)正確地理解了我的問題。當(dāng)然，這種理解是有限的。如果我接著問它“什么時候？”的時候，它只會給我提供一個“when”的字典定義——而不會把我的問題解釋成對話的一部分。

關(guān)于“理解”之爭可以追溯到亞里斯多德，也許John Searle的“中文房間”思想實驗對此闡述得最清楚。我鼓勵大家可以去看看《斯坦福哲學(xué)百科全書》里面科爾的那篇出色的文章。我的態(tài)度是一種功能主義的形式。我們從功能上去表示理解，并且根據(jù)大腦或者某AI系統(tǒng)各種內(nèi)部結(jié)構(gòu)在產(chǎn)生所衡量的功能中存在的因果關(guān)系來評估它們所做的貢獻。

從軟件工程的角度來看，功能主義鼓勵我們設(shè)計一系列測試去衡量系統(tǒng)的功能。我們可以問一個系統(tǒng)（或一個人），“如果把水冷卻到–20度會發(fā)生什么？”或者“如果在洗澡的時候用吹風(fēng)機會發(fā)生什么？”然后對回應(yīng)進行衡量。就回應(yīng)恰當(dāng)而言，我們可以說系統(tǒng)理解了，而如果說回答錯誤的話，我們可以說發(fā)現(xiàn)了系統(tǒng)存在不理解的情況。

為了讓一套系統(tǒng)能夠理解，它必須建立不同概念、狀態(tài)和動作之間的關(guān)聯(lián)。今天的語言翻譯系統(tǒng)可以正確地把英語的“水”跟西班牙語的“agua”關(guān)聯(lián)到一起，但是它們沒有在“水”和“電擊”之間建立起任何的關(guān)聯(lián)。

對于最新的AI進展，批評大都來自兩個方面。第一個是，（研究人員、前者所在的組織，甚至政府以及資助機構(gòu)）圍繞著人工智能的炒作已經(jīng)達到了極端水平。這種炒作甚至引發(fā)了對“超級智能”或“機器人末日”迫在眉睫的恐懼。批評對于抵制胡說八道至關(guān)重要。

對深度學(xué)習(xí)的批評已經(jīng)把我們帶到了新的方向。尤其是，一方面已經(jīng)證明深度學(xué)習(xí)系統(tǒng)在各種基準(zhǔn)任務(wù)上跟人類的表現(xiàn)可以相匹敵，但另一方面又不能將其推廣到表面上非常相似的任務(wù)上，這已經(jīng)導(dǎo)致了對機器學(xué)習(xí)的批評。研究人員正在用新想法予以回應(yīng)，比方說學(xué)習(xí)不變性（learning invariants），發(fā)現(xiàn)因果模型（discovering causal models）等。這些想法既適用于機器學(xué)習(xí)的符號主義也適用于聯(lián)結(jié)主義。

我相信我們不應(yīng)該去爭論什么才算是“真正的”理解。相反，我鼓勵大家把那個先放到一邊，去尋求人工智能的科技進步，把焦點放在未來5、10或者50年內(nèi)應(yīng)該努力去實現(xiàn)哪些系統(tǒng)功能上面。我們應(yīng)該根據(jù)可以在AI系統(tǒng)上進行的測試來定義這些功能，來衡量它是否具備這些功能。為此，這些功能必須是可操作的。簡而言之，我的觀點是要AI開發(fā)要以測試為驅(qū)動。這需要我們把我們對“理解”和“智能”的模糊概念轉(zhuǎn)化為具體的，可衡量的能力。這本身就是一個非常有用的練習(xí)。

與此同時，人工智能的研發(fā)正在為我們提供可以為社會帶來價值的，功能越來越強大的系統(tǒng)。無論是出于學(xué)術(shù)誠信還是為了繼續(xù)獲得資助，人工智能的成功要歸功于那些研究人員，而存在的問題也需要他們站起來負(fù)責(zé)，這一點很重要。我們一方面必須壓一壓那些圍繞著AI新進展進行的炒作，另一方面，不管我們的系統(tǒng)是怎么理解或者不理解用戶、目標(biāo)以及所處的更廣闊世界的，我們也必須客觀地予以衡量。我們不要再把我們的成功視為“假的”，不夠“真實”而摒棄，而應(yīng)該繼續(xù)以誠實的、富有成效的自我批評去推進AI發(fā)展。
（責(zé)任編輯：fqj）