我們真的永遠(yuǎn)也理解不了人工智能嗎？

深度好文：我們真的永遠(yuǎn)也理解不了人工智能嗎？

美國科學(xué)雜志nautil.us《鸚鵡螺》作家Aaron M. Bornstein發(fā)表了針對人工智能時(shí)代下神經(jīng)網(wǎng)絡(luò)模型的深度報(bào)道。從語音識別到語言翻譯，從下圍棋的機(jī)器人到自動駕駛汽車，各行各業(yè)都在該人工智能的驅(qū)動下出現(xiàn)了新的突破。雖然現(xiàn)代神經(jīng)網(wǎng)絡(luò)的表現(xiàn)令人激動，但也面臨一個(gè)棘手的問題：沒人理解它們的運(yùn)行機(jī)制，這也就意味著，沒人能預(yù)測它們何時(shí)可能失靈。正因?yàn)槿绱?，許多人遲疑不前、不敢對神秘莫測的神經(jīng)網(wǎng)絡(luò)下注。

在神經(jīng)網(wǎng)絡(luò)中，數(shù)據(jù)從一層傳遞到另一層，每一步都經(jīng)歷一些簡單的轉(zhuǎn)變。在輸入層和輸出層之間還隱藏著若干層，以及眾多節(jié)點(diǎn)組和連接。其中往往找不出可被人類解讀的規(guī)律，與輸入或輸出也沒有明顯的聯(lián)系?！吧疃取本W(wǎng)絡(luò)便是隱藏層數(shù)量較多的神經(jīng)網(wǎng)絡(luò)

以下為文章全文：

作為IBM的一名研究科學(xué)家，迪米特里·馬里奧托夫其實(shí)不太說得上來自己究竟打造了什么。他的部分工作內(nèi)容是打造機(jī)器學(xué)習(xí)系統(tǒng)、解決IBM公司客戶面臨的棘手問題。例如，他曾為一家大型保險(xiǎn)公司編寫了一套程序。這項(xiàng)任務(wù)極具挑戰(zhàn)性，要用到一套十分復(fù)雜的算法。在向客戶解釋項(xiàng)目結(jié)果時(shí)，馬里奧托夫更是大傷腦筋。“我們沒辦法向他們解釋這套模型，因?yàn)樗麄儧]受過機(jī)器學(xué)習(xí)方面的培訓(xùn)?！?/p>

其實(shí)，就算這些客戶都是機(jī)器學(xué)習(xí)專家，可能也于事無補(bǔ)。因?yàn)轳R里奧托夫打造的模型為人工神經(jīng)網(wǎng)絡(luò)，要從特定類型的數(shù)據(jù)中尋找規(guī)律。在上文提到的例子中，這些數(shù)據(jù)就是保險(xiǎn)公司的客戶記錄。此類網(wǎng)絡(luò)投入實(shí)際應(yīng)用已有半個(gè)世紀(jì)之久，但近年來又有愈演愈烈之勢。從語音識別到語言翻譯，從下圍棋的機(jī)器人到自動駕駛汽車，各行各業(yè)都在該技術(shù)的驅(qū)動下出現(xiàn)了新的突破。

雖然現(xiàn)代神經(jīng)網(wǎng)絡(luò)的表現(xiàn)令人激動，但也面臨一個(gè)棘手的問題：沒人理解它們的運(yùn)行機(jī)制，這也就意味著，沒人能預(yù)測它們何時(shí)可能失靈。

以機(jī)器學(xué)習(xí)專家里奇·卡魯阿納和同事們前幾年報(bào)告的一起事件為例：匹茲堡大學(xué)醫(yī)學(xué)中心的一支研究團(tuán)隊(duì)曾利用機(jī)器學(xué)習(xí)技術(shù)預(yù)測肺炎患者是否會出現(xiàn)嚴(yán)重并發(fā)癥。他們希望將并發(fā)癥風(fēng)險(xiǎn)較低的患者轉(zhuǎn)移到門診進(jìn)行治療，好騰出更多床位和人手。該團(tuán)隊(duì)試了幾種不同的方法，包括各種各樣的神經(jīng)網(wǎng)絡(luò)，以及由軟件生成的決策樹，后者可總結(jié)出清晰易懂、能被人類理解的規(guī)則。

在現(xiàn)代機(jī)器學(xué)習(xí)算法中，可解釋性與精確度難以兩全其美。深度學(xué)習(xí)精確度最高，同時(shí)可解釋性最低

神經(jīng)網(wǎng)絡(luò)的正確率比其它方法都要高。但當(dāng)研究人員和醫(yī)生們分析決策樹提出的規(guī)則時(shí)，卻發(fā)現(xiàn)了一些令人不安的結(jié)果：按照其中一條規(guī)則，醫(yī)生應(yīng)當(dāng)讓已患有哮喘的肺炎病人出院，而醫(yī)生們都知道，哮喘患者極易出現(xiàn)并發(fā)癥。

這套模型完全遵從了指令：從數(shù)據(jù)中找出規(guī)律。它之所以給出了如此差勁的建議，其實(shí)是由數(shù)據(jù)中的一個(gè)巧合導(dǎo)致的。按照醫(yī)院政策，身患哮喘的肺炎患者需接受強(qiáng)化護(hù)理。而這項(xiàng)政策效果極佳，哮喘患者幾乎從不會產(chǎn)生嚴(yán)重并發(fā)癥。由于這些額外護(hù)理改變了該醫(yī)院的患者記錄，算法預(yù)測的結(jié)果也就截然不同了。

這項(xiàng)研究充分體現(xiàn)了算法“可解釋性”的價(jià)值所在。卡魯阿納解釋道：“如果這套以規(guī)則為基礎(chǔ)的系統(tǒng)學(xué)到了‘哮喘會降低并發(fā)癥風(fēng)險(xiǎn)’這一規(guī)則，神經(jīng)網(wǎng)絡(luò)自然也會學(xué)到這一點(diǎn)?！钡祟愖x不懂神經(jīng)網(wǎng)絡(luò)，因此很難預(yù)知其結(jié)果。馬里奧托夫指出，若不是有一套可解釋的模型，“這套系統(tǒng)可能真的會害死人。”

正因?yàn)槿绱?，許多人遲疑不前、不敢對神秘莫測的神經(jīng)網(wǎng)絡(luò)下注。馬里奧托夫?yàn)榭蛻籼峁┝藘商啄Ｐ停阂惶资巧窠?jīng)網(wǎng)絡(luò)模型，雖然精確，但難以理解；另一套則是以規(guī)則為基礎(chǔ)的模型，能夠用大白話向客戶解釋運(yùn)作原理。盡管保險(xiǎn)公司對精確度要求極高，每個(gè)百分點(diǎn)都十分重要，但客戶仍選擇了精確度稍遜的第二套模型?！八麄冇X得第二套模型更容易理解，”馬里奧托夫表示，“他們非常看重直觀性?！?/p>

隨著神秘難解的神經(jīng)網(wǎng)絡(luò)影響力與日俱增，就連政府都開始對其表示關(guān)注。歐盟兩年前提出，應(yīng)給予公民“要求解釋”的權(quán)利，算法決策需公開透明。但這項(xiàng)立法或許難以實(shí)施，因?yàn)榱⒎ㄕ卟⑽搓U明“透明”的含義。也不清楚這一省略是由于立法者忽略了這一問題、還是覺得其太過復(fù)雜導(dǎo)致。

事實(shí)上，有些人認(rèn)為這個(gè)詞根本無法定義。目前我們雖然知道神經(jīng)網(wǎng)絡(luò)在做什么（畢竟它們歸根到底只是電腦程序），但我們對“怎么做、為何做”幾乎一無所知。神經(jīng)網(wǎng)絡(luò)由成百上千萬的獨(dú)立單位、即神經(jīng)元構(gòu)成。每個(gè)神經(jīng)元都可將大量數(shù)字輸入轉(zhuǎn)化為單個(gè)數(shù)字輸出，再傳遞給另一個(gè)、或多個(gè)神經(jīng)元。就像在人腦中一樣，這些神經(jīng)元也分成若干“層”。一組細(xì)胞接收下一層細(xì)胞的輸入，再將輸出結(jié)果傳遞給上一層。

神經(jīng)網(wǎng)絡(luò)可通過輸入大量數(shù)據(jù)進(jìn)行訓(xùn)練，同時(shí)不斷調(diào)整各層之間的聯(lián)系，直到該網(wǎng)絡(luò)計(jì)算后輸出的結(jié)果盡可能接近已知結(jié)果（通常分為若干類別）。近年來該領(lǐng)域之所以發(fā)展迅猛，還要?dú)w功于幾項(xiàng)可快速訓(xùn)練深度網(wǎng)絡(luò)的新技術(shù)。在深度網(wǎng)絡(luò)中，初始輸入和最終輸出之間相隔多層。有一套叫AlexNet的著名深度網(wǎng)絡(luò)，可對照片進(jìn)行歸類，根據(jù)照片的細(xì)微差別將其劃入不同類別。該網(wǎng)絡(luò)含有超過6000萬個(gè)“權(quán)重”，根據(jù)不同權(quán)重，神經(jīng)元會對每項(xiàng)輸入給予不同程度的關(guān)注。隸屬于康奈爾大學(xué)和AI初創(chuàng)公司Geometric Intelligence的計(jì)算機(jī)科學(xué)家杰森·尤辛斯基指出：“要想理解這個(gè)神經(jīng)網(wǎng)絡(luò)，你就要對這6000萬個(gè)權(quán)重都有一定的了解?！?/p>

而就算能夠?qū)崿F(xiàn)這種可解讀性，也未必是件好事。對可解讀性的要求相當(dāng)于制約了系統(tǒng)的能力，使模型無法僅關(guān)注輸入輸出數(shù)據(jù)、提供“純粹”的解決方案，從而有降低精確度之嫌。美國國防部高級研究計(jì)劃局項(xiàng)目主管戴維·甘寧曾在一次會議上對此進(jìn)行了總結(jié)。在他展示的圖表中，深度神經(jīng)網(wǎng)絡(luò)是現(xiàn)代機(jī)器學(xué)習(xí)方法中最難以理解的一種，而以規(guī)則為基礎(chǔ)、重視可解釋性勝過效率的決策樹則是最容易理解的一種。

現(xiàn)代機(jī)器學(xué)習(xí)技術(shù)為開發(fā)者提供了不同的選擇：究竟是要精確獲知結(jié)果，還是要以犧牲精確度為代價(jià)、了解出現(xiàn)該結(jié)果的原因？“了解原因”可幫助我們制定策略、做出適應(yīng)、并預(yù)測模型何時(shí)可能失靈。而“獲知結(jié)果”則能幫助我們即刻采取恰當(dāng)行動。

這實(shí)在令人左右為難。但一些研究人員提出，如果既能保留深度網(wǎng)絡(luò)的多層構(gòu)造、又能理解其運(yùn)作原理，豈不是最好？令人驚奇的是，一些最受看好的研究所其實(shí)是將神經(jīng)網(wǎng)絡(luò)作為實(shí)驗(yàn)對象看待的，即沿襲生物科學(xué)的思路，而不是將其視作純數(shù)學(xué)的研究對象。尤辛斯基也表示，他試圖“通過我們了解動物、甚至人類的方式來了解深度網(wǎng)絡(luò)?！彼推渌?jì)算機(jī)科學(xué)家借鑒了生物研究技術(shù)，借神經(jīng)科學(xué)家研究人腦的方式研究神經(jīng)網(wǎng)絡(luò)：對各個(gè)部件展開詳細(xì)分析，記錄各部件內(nèi)部對微小輸入變化的反應(yīng)，甚至還會移除某些部分、觀察其余部分如何進(jìn)行彌補(bǔ)。

在從無到有地打造了一種新型智能之后，科學(xué)家如今又將其拆開，用數(shù)字形式的“顯微鏡”和“手術(shù)刀”對這些“虛擬器官”展開分析。

尤辛斯基坐在一臺電腦前、對著網(wǎng)絡(luò)攝像頭說話。攝像頭接收的數(shù)據(jù)被輸入深度神經(jīng)網(wǎng)絡(luò)，而與此同時(shí)，該網(wǎng)絡(luò)也在由尤辛斯基和同事們開發(fā)的Deep Visualization（深度可視化）軟件工具包進(jìn)行分析。尤辛斯基在幾個(gè)屏幕間來回切換，然后將網(wǎng)絡(luò)中的一個(gè)神經(jīng)元放大?！斑@個(gè)神經(jīng)元似乎能夠?qū)γ娌繄D像做出反應(yīng)。”人腦中也有這種神經(jīng)元，其中多數(shù)都集中在一處名為“梭狀臉區(qū)”的腦區(qū)中。該腦區(qū)最早由1992年開始的一系列研究發(fā)現(xiàn)，被視作人類神經(jīng)科學(xué)最可靠的觀察結(jié)果之一。對腦區(qū)的研究還需借助正電子發(fā)射計(jì)算機(jī)斷層掃描等先進(jìn)技術(shù)，但尤辛斯基只需憑借代碼、便可對人造神經(jīng)元展開詳細(xì)分析。

借助該方法，尤辛斯基可將特定的人造神經(jīng)元與人類能理解的概念或物體（如人臉）建立起映射關(guān)系，從而將神經(jīng)網(wǎng)絡(luò)變?yōu)橛辛ぞ?。該研究還挑明了圖片中最容易激發(fā)面部神經(jīng)元反映的特征?！把劬︻伾缴睢⒆齑皆郊t，神經(jīng)元的反應(yīng)就更為強(qiáng)烈?！?/p>

杜克大學(xué)計(jì)算機(jī)科學(xué)、電子與計(jì)算機(jī)工程教授辛西婭·魯丁認(rèn)為，這些“事后解讀”本身是有問題的。她的研究重點(diǎn)為以規(guī)則為基礎(chǔ)的機(jī)器學(xué)習(xí)系統(tǒng)，可應(yīng)用于罪犯量刑、醫(yī)療診斷等領(lǐng)域。在這些領(lǐng)域中，人類能夠進(jìn)行解讀，且人類的解讀十分關(guān)鍵。但在視覺成像等領(lǐng)域，“個(gè)人的解讀結(jié)果純屬主觀。”誠然，我們可以通過識別面部神經(jīng)元、對神經(jīng)網(wǎng)絡(luò)的響應(yīng)進(jìn)行簡化，但如何才能確定這就是該網(wǎng)絡(luò)尋找的結(jié)果呢？無獨(dú)有偶，有一套著名理論認(rèn)為，不存在比人類視覺系統(tǒng)更簡單的視覺系統(tǒng)模型?！皩τ谝粋€(gè)復(fù)雜系統(tǒng)在做什么事情，可以有很多種解釋，”魯丁指出，“難道從中選出一個(gè)你‘希望’正確的解釋就行了嗎？”

尤辛斯基的工具包可以通過逆向工程的方式、找出神經(jīng)網(wǎng)絡(luò)自身“希望”正確的結(jié)果，從而在部分程度上解決上述問題。該項(xiàng)目先從毫無意義的“雪花”圖像開始，然后對像素進(jìn)行逐個(gè)調(diào)整，通過神經(jīng)網(wǎng)絡(luò)訓(xùn)練的反向過程逐步修改圖片，最終找出能夠最大限度激發(fā)某個(gè)神經(jīng)元響應(yīng)的圖片。將該方法運(yùn)用到AlexNet神經(jīng)元上后，該系統(tǒng)生成了一些奇奇怪怪的照片，雖然看上去頗為詭異，但的確能看出屬于它們被標(biāo)記的類別。

這似乎支持了尤辛斯基的論斷：這些面部神經(jīng)元尋找的確實(shí)是面部圖像。但還有一個(gè)問題：在生成這些圖像的過程中，該流程依賴了一種名為“自然圖像優(yōu)先”的統(tǒng)計(jì)學(xué)約束，因此其生成的圖像均會模仿真實(shí)物體照片的結(jié)構(gòu)。而當(dāng)他去除這些規(guī)則后，該工具包仍會選取被其標(biāo)記為“信度最大”的圖片，但這些圖片看上去就像電視機(jī)失去信號時(shí)的“雪花”一樣。事實(shí)上，尤辛斯基指出，AlexNet傾向于選擇的大部分圖片在人眼看來都是一片亂糟糟的“雪花”。他承認(rèn)道：“很容易弄清如何讓神經(jīng)網(wǎng)絡(luò)生成極端結(jié)果?！?/p>

圖為深度神經(jīng)網(wǎng)絡(luò)中的單個(gè)神經(jīng)元（由綠框標(biāo)出）對尤辛斯基的面部圖像做出反應(yīng)，就像人腦的某個(gè)腦區(qū)（標(biāo)為黃色）也會對面部圖像做出反應(yīng)一樣

為避免這些問題，弗吉尼亞理工大學(xué)電子與計(jì)算機(jī)工程助理教授杜魯夫·巴特拉采用了一種更高級的實(shí)驗(yàn)方法對深度網(wǎng)絡(luò)進(jìn)行解讀。他沒有去試圖尋找網(wǎng)絡(luò)內(nèi)部結(jié)構(gòu)的規(guī)律，而是用一種眼動追蹤技術(shù)分析神經(jīng)網(wǎng)絡(luò)的行為。在研究生阿比謝克·達(dá)斯和哈什·阿格拉瓦爾的帶領(lǐng)下，巴特拉的團(tuán)隊(duì)向一個(gè)深度網(wǎng)絡(luò)就某張圖片提問，如房間窗戶上是否有窗簾等等。不同于AlexNet或類似系統(tǒng)，達(dá)斯的網(wǎng)絡(luò)每次只關(guān)注圖片的一小部分，然后“掃視”圖片各處，直到該網(wǎng)絡(luò)認(rèn)為已經(jīng)得到了足夠的信息、可以回答問題為止。經(jīng)過充分訓(xùn)練后，這一深度神經(jīng)網(wǎng)絡(luò)的表現(xiàn)已經(jīng)非常出色，精確度足以與人類的最高水平媲美。

接下來，達(dá)斯、巴特拉和同事們還想了解該網(wǎng)絡(luò)是如何做出決策的。于是他們分析了該網(wǎng)絡(luò)在圖片上選取的觀察點(diǎn)。而結(jié)果令他們大吃一驚：在回答“圖中是否有窗簾”的問題時(shí)，該網(wǎng)絡(luò)根本沒去尋找窗戶，而是先對圖片底部進(jìn)行觀察，如果發(fā)現(xiàn)了床鋪，就停下來不找了?？磥碓谟脕碛?xùn)練該網(wǎng)絡(luò)的數(shù)據(jù)集中，裝有窗簾的窗戶可能常出現(xiàn)在臥室里。

該方法雖然揭露了深度網(wǎng)絡(luò)的一些內(nèi)部運(yùn)行機(jī)制，但也凸顯了可解釋性帶來的挑戰(zhàn)。巴特拉指出：“機(jī)器捕捉到的并不是關(guān)于這個(gè)世界的真相，而是關(guān)于數(shù)據(jù)集的真相。”這些機(jī)器嚴(yán)格按照訓(xùn)練數(shù)據(jù)進(jìn)行了調(diào)整，因此很難總結(jié)出它們運(yùn)作機(jī)制的普遍規(guī)則。更重要的是，你要是不懂它如何運(yùn)作，就無法預(yù)知它會如何失靈。而從巴特拉的經(jīng)驗(yàn)來看，當(dāng)它們失靈的時(shí)候，“就會輸?shù)靡粩⊥康??！?/p>

圖為“深度視覺化”工具包生成的“理想貓臉”。該程序先從類似電視機(jī)沒信號時(shí)的“雪花”圖像開始，對像素進(jìn)行逐個(gè)調(diào)整，直到AlexNet神經(jīng)網(wǎng)絡(luò)的面部神經(jīng)元產(chǎn)生最大響應(yīng)為止

尤辛斯基和巴特拉等研究人員面臨的一些障礙對人腦科學(xué)家來說也并不陌生。例如，對神經(jīng)成像的解讀就常常遭到質(zhì)疑。2014年，認(rèn)知神經(jīng)科學(xué)家瑪莎·法拉在一篇領(lǐng)域評述中寫道：“令人擔(dān)憂的是……（功能性腦部）圖像更像是研究人員的創(chuàng)造發(fā)明、而非觀察結(jié)果?！边@一問題在各種智能系統(tǒng)中也屢屢出現(xiàn)，說明無論對人腦、還是對智能的研究而言，該問題都會成為一大障礙。

追求可解釋性是否為一項(xiàng)愚蠢之舉呢？2015年，加州大學(xué)圣地亞哥分校的扎克利·立頓發(fā)表了一篇名為《模型可解釋性的迷思》的博文，批判性地探討了解讀神經(jīng)網(wǎng)絡(luò)背后的動機(jī)、以及為大型數(shù)據(jù)集打造可解讀的機(jī)器學(xué)習(xí)模型的價(jià)值。在2016年國際機(jī)器學(xué)習(xí)大會（ICML）上，他還向馬里奧托夫與兩名同事組織的“人類可解釋性”專題研討會提交了一篇與該話題相關(guān)的、頗具爭議性的論文。

立頓指出，許多學(xué)者并不贊同“可解釋性”這一概念。因此他認(rèn)為，要么是人們對可解釋性的理解還不夠，要么是它有太多可能的含義。無論是哪種情況，追求可解釋性也許都無法滿足我們對“簡單易懂的神經(jīng)網(wǎng)絡(luò)輸出”的渴求。立頓在博文中指出，當(dāng)數(shù)據(jù)集過大時(shí)，研究人員完全可以抑制去解讀的沖動，要相信“憑借經(jīng)驗(yàn)也能成功”。他表示，該領(lǐng)域的目的之一，便是要“打造學(xué)習(xí)能力遠(yuǎn)超人類的模型”，如果太過注重可解釋性，就難以使這類模型充分發(fā)揮潛力。

但這種能力既是特點(diǎn)也是缺陷：如果我們不明白網(wǎng)絡(luò)輸出是如何生成的，就無從知曉該網(wǎng)絡(luò)需要何種輸入。1996年，英國蘇塞克斯大學(xué)的艾德里安·湯普森采用與如今訓(xùn)練深度網(wǎng)絡(luò)相似的技術(shù)、用軟件設(shè)計(jì)了一款電路。這一電路要執(zhí)行的任務(wù)很簡單：區(qū)分兩個(gè)音頻的音調(diào)。經(jīng)過成千上萬次調(diào)整和重排后，該軟件終于找到了一種能近乎完美地完成任務(wù)的配置。

但湯普森驚訝地發(fā)現(xiàn)，該電路所用元件數(shù)量比任何人類工程師的設(shè)計(jì)都要少，甚至有幾個(gè)元件根本沒有和其它元件相連。而要讓電路順利運(yùn)作，這些元件應(yīng)當(dāng)不可或缺才對。

于是他對電路進(jìn)行了剖析。做了幾次實(shí)驗(yàn)后，他發(fā)現(xiàn)該電路的相鄰元件間存在微弱的電磁干擾。未與電路相連的元件通過干擾鄰近電場、對整個(gè)電路造成了影響。人類工程師通常會杜絕這類干擾，因?yàn)楦蓴_的結(jié)果難以預(yù)料。果不其然，若用另一組元件復(fù)制該電路布局，甚至只是改變環(huán)境溫度，同樣的電路便會徹底失靈。

該電路揭露了機(jī)器訓(xùn)練的一大重要特征：它們總是盡可能緊湊簡潔，與所在環(huán)境完美相容，但往往難以適應(yīng)其它環(huán)境。它們能抓住工程師發(fā)現(xiàn)不了的規(guī)律，但不知道別處是否也有這一規(guī)律。機(jī)器學(xué)習(xí)研究人員想盡力避免這種名為“過擬合”的現(xiàn)象。但隨著應(yīng)用這些算法的情況愈發(fā)復(fù)雜多變，這一缺陷難免會暴露出來。

普林斯頓大學(xué)計(jì)算機(jī)科學(xué)教授桑吉夫·阿羅拉認(rèn)為，這一問題是人類追求可解釋模型的主要?jiǎng)訖C(jī)，希望有了可解釋模型后、能對網(wǎng)絡(luò)進(jìn)行干預(yù)和調(diào)整。距阿羅拉表示，有兩大問題可體現(xiàn)缺乏可解釋性對機(jī)器性能造成的硬性限制。一是“組合性”：當(dāng)一項(xiàng)任務(wù)同時(shí)涉及多項(xiàng)決策時(shí)（如圍棋或自動駕駛汽車），神經(jīng)網(wǎng)絡(luò)便無法高效判定是哪個(gè)決策導(dǎo)致了任務(wù)失敗?！叭祟愒谠O(shè)計(jì)某樣?xùn)|西時(shí)，會先弄清不同元件的作用，再將其組合在一起，因此能夠?qū)Σ贿m合當(dāng)前環(huán)境的元件進(jìn)行調(diào)整?！?/p>

二是阿羅拉所稱的“域適應(yīng)性”即將在某種情境中學(xué)到的知識靈活運(yùn)用于其它情境的能力。人類非常擅長這項(xiàng)任務(wù)，但機(jī)器則會出現(xiàn)各種離奇錯(cuò)誤。據(jù)阿羅拉描述，即使只對環(huán)境做了微調(diào)、人類調(diào)整起來不費(fèi)吹灰之力，計(jì)算機(jī)程序也會遭遇慘敗。例如，某個(gè)網(wǎng)絡(luò)經(jīng)過訓(xùn)練后、能對維基百科等正式文本的語法進(jìn)行分析，但如果換成推特這樣的口語化表達(dá)，就會變得毫無招架之力。

按這樣來看，可解釋性似乎不可或缺。但我們真的理解它的意思嗎？著名計(jì)算機(jī)科學(xué)家馬文·閔斯基用“手提箱詞匯”來形容這類詞匯，包括“意識”、“情緒”等用來描述人類智能的單詞。閔斯基指出，這些詞其實(shí)反映了多種多樣的內(nèi)在機(jī)制，但都被鎖在“手提箱”中。一旦我們用這些詞代替了更根本性的概念、僅對這些詞匯進(jìn)行研究，我們的思維就會被語言所局限。那么在研究智能時(shí)，“可解釋性”會不會也是這樣一個(gè)“手提箱詞匯”呢？

雖然很多研究人員都持樂觀態(tài)度，認(rèn)為理論學(xué)家遲早能打開這個(gè)“手提箱”、發(fā)現(xiàn)某套主宰機(jī)器學(xué)習(xí)（或許也包括人類學(xué)習(xí)）的統(tǒng)一法則或原理，就像牛頓的力學(xué)原理一樣。但也有人警告稱，這種可能性微乎其微。紐約城市大學(xué)哲學(xué)教授馬西莫·皮戈里奇指出，神經(jīng)科學(xué)、乃至人工智能領(lǐng)域所謂的“理解”也許是一種“集群概念”，即可能有多個(gè)不同定義。如果該領(lǐng)域真的有“理解”之說，也許相對于物理學(xué)、會更接近進(jìn)化生物學(xué)的情況。也就是說，我們將發(fā)現(xiàn)的也許不是“基本力學(xué)原理”，而是“物種起源學(xué)說”。

當(dāng)然，這并不意味著深度網(wǎng)絡(luò)將預(yù)示著某種新型自主生命的出現(xiàn)。但深度網(wǎng)絡(luò)就像生命本身一樣費(fèi)解。該領(lǐng)域采用的漸進(jìn)式實(shí)驗(yàn)手段和事后解讀方式也許并不是在黑暗中苦苦等待理論之光時(shí)的絕望情緒，而是我們能夠盼來的唯一光芒?？山忉屝砸苍S會以碎片化的形式呈現(xiàn)出來，就像不同類別的“物種”一樣，采用的分類法則根據(jù)具體情境而定。

在國際機(jī)器學(xué)習(xí)大會的專題研討會結(jié)束時(shí)，部分發(fā)言人參加了一場討論會，試圖給“可解釋性”下一個(gè)定義。結(jié)果每個(gè)人都各執(zhí)一詞。進(jìn)行了一系列討論后，大家似乎達(dá)成了一點(diǎn)共識：一個(gè)模型要能被解釋，就要具備“簡單性”。但在簡單性的定義問題上，大家又產(chǎn)生了分歧?！白詈唵巍钡哪Ｐ途烤故侵敢蕾囎钌偬卣鞯哪Ｐ?？還是程序規(guī)模最小的模型？還是有其它解釋？一直到研討會結(jié)束，大家都沒有達(dá)成共識。

正如馬里奧托夫說的那樣：“簡單性并不簡單。”

每日一篇人工智能文章，還有技術(shù)文章同步發(fā)布，喜歡的朋友可以關(guān)注一下，