人工智能有可能統(tǒng)治人類(lèi)嗎？

卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)學(xué)院教授、圖靈獎(jiǎng)獲得者Raj Reddy

本文轉(zhuǎn)自微軟亞洲研究院

5月31日上午，卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)學(xué)院教授、圖靈獎(jiǎng)獲得者Raj Reddy蒞臨微軟亞洲研究院，為我們帶來(lái)了一場(chǎng)題為“重新審視人工智能：以歷史的視角”的精彩講座。Reddy教授從歷史的視角出發(fā)，帶領(lǐng)我們回溯了60年來(lái)計(jì)算機(jī)科學(xué)和人工智能領(lǐng)域的成就，回應(yīng)了大眾對(duì)“人工智能威脅論”的疑慮，并對(duì)未來(lái)的“超智能”作出了展望。本文是演講的文字精簡(jiǎn)版。

60多年前，我們的行業(yè)先驅(qū)開(kāi)創(chuàng)了計(jì)算機(jī)科學(xué)、人工智能這些全新的研究領(lǐng)域。但是直到今天，人們對(duì)人工智能依然抱有大量的誤解和恐懼，認(rèn)為人工智能將取代人類(lèi)、統(tǒng)治世界。面對(duì)這些質(zhì)疑，我認(rèn)為，只有理解我們從何而來(lái)、身處何處，我們未來(lái)將去往何方，才不會(huì)對(duì)這些關(guān)于人工智能的誤解感到困惑。

人工智能將永遠(yuǎn)無(wú)法統(tǒng)治世界，相反，由于人工智能可以成為每一個(gè)人的“超能力”，人類(lèi)是平等的，沒(méi)有誰(shuí)將因?yàn)槭褂萌斯ぶ悄芏桉{于他人之上。如果我們向前回溯科技發(fā)展的歷程，我們會(huì)發(fā)現(xiàn)，人工智能的發(fā)展與以往任何一次的技術(shù)進(jìn)步都是相似的，不同的是我們比過(guò)去多了幾百萬(wàn)倍的數(shù)據(jù)庫(kù)，這些數(shù)據(jù)庫(kù)正是我們今天所獲得的一切成就的基礎(chǔ)——無(wú)論是機(jī)器文本翻譯、語(yǔ)音翻譯，還是機(jī)器問(wèn)答，這些創(chuàng)造性突破都離不開(kāi)數(shù)據(jù)和計(jì)算能力的強(qiáng)有力支撐。

60年前，當(dāng)我的導(dǎo)師John McCathy在1956年的達(dá)特茅斯會(huì)議上首次提出“人工智能”這一概念時(shí)，當(dāng)時(shí)的初心是想讓電腦像人一樣智能地幫助人們完成一些繁瑣的任務(wù)，人們就有更多的時(shí)間從事自己喜歡的事業(yè)。事實(shí)上，60年前機(jī)器就能幫助人們完成一些任務(wù)了，比如加減乘除的運(yùn)算。于是人們繼續(xù)發(fā)問(wèn)，機(jī)器還能幫助我們完成其它任務(wù)嗎？科學(xué)家們就開(kāi)始了嘗試，圖靈說(shuō)他相信機(jī)器可以擁有某些智能，Arthur Samuel開(kāi)始研究如何讓計(jì)算機(jī)學(xué)習(xí)下棋。所以機(jī)器學(xué)習(xí)在50年代就出現(xiàn)了，那時(shí)的機(jī)器學(xué)習(xí)是簡(jiǎn)單的規(guī)則學(xué)習(xí)，探索機(jī)器是否能發(fā)現(xiàn)、辨認(rèn)和使用模式（pattern）。所以在人工智能的最初階段，人們探討的都是下棋、玩游戲、理論驗(yàn)證這樣的問(wèn)題。接下來(lái)人們開(kāi)始探索計(jì)算機(jī)能不能擁有解決問(wèn)題的能力，他們編寫(xiě)程序讓計(jì)算機(jī)嘗試處理一些數(shù)學(xué)問(wèn)題。由于這些問(wèn)題只需要窮盡所有的可能性就可以解決，所以計(jì)算機(jī)解決得比人類(lèi)更好更快。

在達(dá)特茅斯會(huì)議之后的第一個(gè)十年里，當(dāng)時(shí)我還是斯坦福大學(xué)的一名學(xué)生。那時(shí)，人們認(rèn)為電腦能夠看、聽(tīng)、說(shuō)并不是智能的表現(xiàn)，因?yàn)槊恳粋€(gè)普通人都可以做到這一點(diǎn)。但事實(shí)證明這種想法是錯(cuò)誤的，從第二個(gè)十年開(kāi)始，我們就開(kāi)始研究制造機(jī)器人，讓計(jì)算機(jī)能夠說(shuō)話，也開(kāi)始了計(jì)算機(jī)視覺(jué)等新領(lǐng)域的研究，我們一路走來(lái)，歷經(jīng)困難，也有了許多新的突破。

某些人認(rèn)為只有通用人工智能才能解決某些常識(shí)性問(wèn)題，事實(shí)上，根本就不存在通用人工智能，所有的智能都是應(yīng)用于某一特殊領(lǐng)域的智能。馬文·明斯基在《心智社會(huì)》(The Society of Mind)中提到，人腦的智能不是整個(gè)大腦一起運(yùn)作的，而是分為成千上萬(wàn)個(gè)區(qū)域，每一片區(qū)域具有一種特定功能。大腦的研究人員發(fā)現(xiàn)大腦有大約1立方厘米的區(qū)域?qū)ｉT(mén)用來(lái)識(shí)別媽媽的臉。當(dāng)然，大腦會(huì)把負(fù)責(zé)圖像識(shí)別的區(qū)域和負(fù)責(zé)語(yǔ)言的區(qū)域連接起來(lái)，這樣一來(lái)我們就會(huì)把媽媽本身和“Mother”這個(gè)單詞聯(lián)系起來(lái)，所以連接就成為智能最重要的一部分。

我們希望計(jì)算機(jī)可以實(shí)現(xiàn)那些人類(lèi)可以做的事情，比如說(shuō)話、學(xué)習(xí)等等。然后，大家開(kāi)始研究專(zhuān)家系統(tǒng)、機(jī)器人、自動(dòng)駕駛汽車(chē)等等。到了20世紀(jì)末，我們用AI技術(shù)實(shí)現(xiàn)了幾個(gè)對(duì)人類(lèi)來(lái)說(shuō)非常容易或者稍微有些困難的工作，比如，證明理論、下象棋等。隨后，我們遇到了技術(shù)轉(zhuǎn)折點(diǎn)，我們擁有了足夠的計(jì)算能力、儲(chǔ)存和帶寬來(lái)實(shí)現(xiàn)那些我們過(guò)去認(rèn)為永遠(yuǎn)無(wú)法實(shí)現(xiàn)的能力。

AI已經(jīng)可以完成某些被認(rèn)為是人類(lèi)才能完成的任務(wù)。未來(lái)，AI能不能完成人類(lèi)沒(méi)辦法做的事情？這不僅僅是通用人工智能，而是超智能。我認(rèn)為未來(lái)這一點(diǎn)是可以實(shí)現(xiàn)的?；氐紸I和計(jì)算機(jī)科學(xué)的定義，我在1965年有過(guò)一個(gè)定義——AI和計(jì)算機(jī)科學(xué)是提高大腦能力的學(xué)科。你的大腦可以做的任何事情，計(jì)算機(jī)和AI都可以做地更好更快，甚至可以完成一些人類(lèi)沒(méi)辦法完成的事情。

20世紀(jì)，計(jì)算機(jī)科學(xué)家們所做的就是對(duì)已有知識(shí)進(jìn)行編程，采用各種各樣的方式來(lái)讓機(jī)器學(xué)習(xí)自己解決人類(lèi)的任務(wù)。從比較簡(jiǎn)單的解數(shù)學(xué)題、下棋，到理解語(yǔ)言、語(yǔ)音、圖像，再到機(jī)器人可以畫(huà)畫(huà)、創(chuàng)作音樂(lè)、完成股票自動(dòng)交易這些更有創(chuàng)造力的任務(wù)。

與20世紀(jì)相比，21世紀(jì)的人工智能有兩點(diǎn)不同：

第一，我們經(jīng)歷了一個(gè)范式轉(zhuǎn)換，在21世紀(jì)，計(jì)算機(jī)科學(xué)的重大突破將由大數(shù)據(jù)來(lái)驅(qū)動(dòng)——微軟技術(shù)院士、圖靈獎(jiǎng)得主Jim Gray將大數(shù)據(jù)命名為繼實(shí)驗(yàn)科學(xué)、理論推演、計(jì)算機(jī)仿真三大范式之后的“第四范式”。因此下一代人工智能系統(tǒng)就是數(shù)據(jù)驅(qū)動(dòng)的人工智能系統(tǒng)。

第二，20世紀(jì)人們?cè)谟?xùn)練人工智能時(shí)使用的知識(shí)大多來(lái)自書(shū)籍，而到了21世紀(jì)，我們需要運(yùn)用人工智能和大數(shù)據(jù)去發(fā)現(xiàn)各個(gè)行業(yè)里的新知識(shí)。龐大的數(shù)據(jù)量將超過(guò)人類(lèi)的處理能力，人工智能、機(jī)器學(xué)習(xí)就成為了大數(shù)據(jù)時(shí)代的核心，也許有一天，計(jì)算機(jī)將學(xué)會(huì)自己編寫(xiě)它們需要的程序。

我想舉一個(gè)大家熟悉的例子。中國(guó)目前的基礎(chǔ)教育還存在地區(qū)、性別不平等的現(xiàn)象，比如西部地區(qū)的孩子可能很難通過(guò)高考擠進(jìn)高校教育的金字塔尖，在某些領(lǐng)域女性的數(shù)量遠(yuǎn)遠(yuǎn)不及男性等等，美國(guó)加州的教育也存在類(lèi)似的不平等，那些來(lái)自普通學(xué)校的學(xué)生將無(wú)法和頂尖學(xué)校的學(xué)生一樣展現(xiàn)自己良好的學(xué)術(shù)水平。我們可以基于大數(shù)據(jù)做一張地圖來(lái)呈現(xiàn)和分析這個(gè)話題，使它成為政府決策的有效依據(jù)。所以在21世紀(jì)，我們要盡可能地發(fā)現(xiàn)、使用數(shù)據(jù)驅(qū)動(dòng)的知識(shí)資源去解決我們社會(huì)中的問(wèn)題。

那我們?cè)趺催\(yùn)用人工智能去自動(dòng)發(fā)現(xiàn)新知識(shí)呢？我們今天的機(jī)器學(xué)習(xí)、深度學(xué)習(xí)都在使用大數(shù)據(jù)，但當(dāng)下深度學(xué)習(xí)面臨的一個(gè)問(wèn)題是我們無(wú)法解釋正確答案是如何被找到的。這個(gè)問(wèn)題可能在未來(lái)的5-10年內(nèi)會(huì)得到解決，也是我們接下來(lái)的任務(wù)。

最后我想重溫一下人工智能領(lǐng)域已經(jīng)取得的成就。1963-1969年間，我在斯坦福人工智能實(shí)驗(yàn)室，當(dāng)時(shí)實(shí)驗(yàn)室已經(jīng)開(kāi)始著手機(jī)器人、語(yǔ)言、知識(shí)工程、計(jì)算機(jī)視覺(jué)等方向的研究。60年代，我們發(fā)明了“所見(jiàn)即所得”的圖形編輯器、PIECESOF GLASS（POG）、計(jì)算理論等。70年代，出現(xiàn)了知識(shí)中心型人工智能，還有一場(chǎng)關(guān)于太空探索的熱潮，我們?cè)谒伎既绾螌⑷斯ぶ悄軕?yīng)用于太空探索，這個(gè)問(wèn)題我們至今仍未解決。80年代，我們?cè)诳▋?nèi)基梅隆大學(xué)建立了機(jī)器人實(shí)驗(yàn)室，研究如何讓機(jī)器人自動(dòng)處理自己的系統(tǒng)。90年代，機(jī)器人成為了世界象棋冠軍，已經(jīng)學(xué)會(huì)了閱讀理解、回答問(wèn)題，等等。

一直以來(lái)我感興趣的一個(gè)問(wèn)題是，人工智能技術(shù)是否能夠被沒(méi)有受過(guò)教育的人所使用，他們?nèi)绾问褂?？我們現(xiàn)有的技術(shù)可以做語(yǔ)言翻譯、發(fā)音，這個(gè)過(guò)程中包含語(yǔ)音識(shí)別、轉(zhuǎn)錄、翻譯等技術(shù)。多語(yǔ)言之間的翻譯已經(jīng)可以用技術(shù)部分實(shí)現(xiàn)，但還沒(méi)有完全實(shí)現(xiàn)，因?yàn)槭澜缟线€有一百多種語(yǔ)言的元數(shù)據(jù)沒(méi)有收集，而收集數(shù)據(jù)需要大量的時(shí)間和金錢(qián)。

回到我們的主題，20世紀(jì)的人工智能領(lǐng)域已經(jīng)完成了很多重大突破，也留下了一系列棘手的問(wèn)題，諸如通用語(yǔ)言翻譯、自然語(yǔ)音識(shí)別等，我曾經(jīng)認(rèn)為它們?cè)谖矣猩甓疾粫?huì)實(shí)現(xiàn)。但在21世紀(jì)的第一個(gè)十年，這些問(wèn)題很快就有了突破，我們有了通用語(yǔ)言翻譯、語(yǔ)音對(duì)話、自動(dòng)駕駛汽車(chē)、深度問(wèn)答系統(tǒng)、撲克機(jī)器人冠軍等等。

為什么我們能夠?qū)崿F(xiàn)這些突破呢？因?yàn)樗鼈兌际窃诖髷?shù)據(jù)和機(jī)器學(xué)習(xí)的幫助下成長(zhǎng)起來(lái)的，計(jì)算機(jī)已經(jīng)開(kāi)始有能力做一些人類(lèi)無(wú)法實(shí)現(xiàn)的事情。在今年11月份的“二十一世紀(jì)的計(jì)算”大會(huì)上，我將會(huì)為大家介紹認(rèn)知放大器（cognition amplifier）和守護(hù)天使（guardian angel）的內(nèi)容，同樣是關(guān)于計(jì)算機(jī)完成一些人類(lèi)無(wú)法完成的任務(wù)。舉一個(gè)簡(jiǎn)單的例子，假設(shè)地震引發(fā)了一場(chǎng)海嘯，如果我們對(duì)此毫不知情，這將成為一場(chǎng)傷亡慘重的大災(zāi)難，但如果我們有一個(gè)守護(hù)天使，能夠預(yù)測(cè)10分鐘后即將到來(lái)的巨大海浪，我們就能夠拯救很多生命。如果馬航的MH370航班上有一個(gè)守護(hù)天使，檢測(cè)到機(jī)長(zhǎng)沒(méi)有按照原定航線行駛，他就會(huì)接管飛機(jī)的控制權(quán)，就近降落，那么所有人都會(huì)被拯救。

所以這就是未來(lái)，我們創(chuàng)造技術(shù)的目的是保障人類(lèi)的能力，拓展人類(lèi)的局限。我們每個(gè)人都將可以使用大規(guī)模的人工智能系統(tǒng)，它們就像我們的守護(hù)天使，可以保護(hù)人類(lèi)、幫助人類(lèi)、延伸人類(lèi)的知覺(jué)與能力。放眼看更遙遠(yuǎn)的未來(lái)，我認(rèn)為我們將不僅僅只有人工智能和人類(lèi)智能，更會(huì)出現(xiàn)超人類(lèi)智能。但別忘了最重要的一點(diǎn)，由于它們是高度專(zhuān)業(yè)化的智能機(jī)器，所以它們永遠(yuǎn)都不會(huì)統(tǒng)治世界，更不會(huì)奴役我們。謝謝大家！

Raj Reddy簡(jiǎn)介

Raj Reddy，卡內(nèi)基梅隆大學(xué)計(jì)算機(jī)科學(xué)學(xué)院教授，1994年圖靈獎(jiǎng)獲得者，美國(guó)國(guó)家工程院、美國(guó)藝術(shù)與科學(xué)院院士，1999年至2001年曾擔(dān)任克林頓總統(tǒng)信息技術(shù)咨詢(xún)委員會(huì)（PITAC）聯(lián)合主席。Reddy博士在人工智能、語(yǔ)音理解、圖像識(shí)別、機(jī)器人、多傳感器應(yīng)用、智能代理等領(lǐng)域有超過(guò)50年的研究經(jīng)驗(yàn)。