人工智能（AI）與通用人工智能（AGI）

在當前關(guān)于“人工智能”（Artificial Intelligence，AI）與“奇點”（Singularity）的討論中，這兩個詞語的不同含義經(jīng)常不同程度地被混用，成為諸多分歧產(chǎn)生的根源之一。本文對這些含義進行了辨析，進而提出“通用人工智能”（Artificial General Intelligence，AGI）所代表的智能觀，認為AGI可以存在，但奇點卻不會出現(xiàn)。

近年來深度學(xué)習(xí)進展神速，令“計算機能否比人更聰明”再度成為熱點話題。在這類討論中存在兩種截然相反的觀點：“無限論”者認為，從人工智能已取得的成果上一看便知，沒有人工智能做不了的事情；“有限論”者則認為人工智能不可能真有多少智能，所以做不了很多事情。在我們看來，二者的論證皆有概念混淆的問題。下面我們從概念分析開始，希望在這團亂麻中理出些頭緒，也為這炎炎夏日的火熱論爭帶來一絲清涼。本文是我們一篇英文論文[1]的縮寫版。

人工智能（AI）與通用人工智能（AGI）

“人工智能（AI）”沒有公認的嚴格定義，盡管簡而言之，這項研究是試圖“讓計算機像人腦一樣工作”。盡管聽上去似乎直截了當，這種看法實際上要求AI在某些方面與人類智能相似（甚至相同）。由于計算機既非生物有機體，也不可能過和人類一模一樣的生活，故而期望人工智能與人類智能在所有方面都完全一樣顯然是不切實際的。但這是個自明的“潛假設(shè)”，很少被明確提及。其結(jié)果是當人們關(guān)注人類智能的不同方面時，提出和遵從的AI范式彼此迥異，其目標、需求、假設(shè)、路徑和應(yīng)用均大相徑庭。

在相關(guān)討論中，至少存在三種不同見解：

1、認為“AI”應(yīng)該行為表現(xiàn)與人完全一致。

2、認為“AI”應(yīng)該能夠解決某些過去只有人腦才能解決的問題。

3、認為“AI”應(yīng)該具有與人相同的認知功能。

在后面的討論中，它們將分別被稱為AI-1、AI-2和AI-3。就AI-1而言，最廣為人知的形式莫過于一個能夠通過圖靈測試的計算機系統(tǒng)。由于通俗易懂，這種AI經(jīng)常出現(xiàn)在科幻小說和電影中。在公眾看來，這就是“AI”的含義。但事實上，這基本上不是人工智能領(lǐng)域的研究目標。

在AI研究的初期（上個世紀中葉），絕大多數(shù)研究者的確都試圖創(chuàng)建在各方面均可與人類心智相媲美（盡管未必完全相同）的“思維機器”。然而，對這一目標的所有直接嘗試均宣告失敗。于是，主流AI研究者將“AI”重新詮釋為AI-2，即在某一特定應(yīng)用或認知功能上達到人類水平。常規(guī)AI教科書中幾乎所有的內(nèi)容都成為了AI-2的腳注，就連新近增補的深入學(xué)習(xí)和其他機器學(xué)習(xí)算法也無出其右。

盡管AI-2取得了令人矚目的成就，業(yè)界內(nèi)外的許多人仍然覺得這種系統(tǒng)其實更接近傳統(tǒng)計算而非一般意義的智能。這也正是十幾年前需要引入“通用人工智能（AGI）”這個新詞的原因。盡管這類研究項目實際上從AI之初便一直存續(xù)至今，但是當主流AI已經(jīng)在這個招牌下從事不同的經(jīng)營活動之后，給這個目標取個新名字就成為必要的了。AGI將“智能”視為一種一般能力，而主流AI則將其視作多種具體能力的松散集合。因此，AGI更接近于前述AI-3。

許多人用“強AI”稱呼AI-1和AI-3（以及AGI），而用“弱AI”指AI-2。雖然這個區(qū)分有其直觀吸引力，很多AGI研究者通常并不用“強AI”來稱呼自己的研究工作。理由一是避免該對語詞背后潛藏著的哲學(xué)預(yù)設(shè)（“強AI”和“弱AI”的差別原本就不體現(xiàn)在外部功能上，而是系統(tǒng)是否有“內(nèi)省”能力），二是AI-2與AI-3的主要區(qū)別不在于“能力的強弱”，而在于“適用的范圍”。對某一確定性問題而言，專用方案的能力往往強于通用方案。因此，期望AI-2的技術(shù)變得“更強大”而最終躍升為AI-3是不現(xiàn)實的，因為二者的設(shè)計源自根本不同的出發(fā)點。換言之，將現(xiàn)有AI-2技術(shù)捆綁整合而成為AI-3系統(tǒng)的想法是不會實現(xiàn)的。

此外，AI-1側(cè)重于系統(tǒng)的外在行為，而AI-3則側(cè)重于其內(nèi)部功能，但“強AI”這個概念卻無法區(qū)分AI-1和AI-3。盡管有理由認為“行為表現(xiàn)與人腦完全一致的計算機系統(tǒng)”（AI-1）大約依賴于“與人類心智相同的認知功能”（AI-3），但反過來卻未必成立。系統(tǒng)的行為（或其“輸出”）不僅取決于內(nèi)部的處理機制和功能，還依賴于系統(tǒng)的“輸入”（可粗略稱其為“經(jīng)驗”）。因此，“類人”的認知機制如果被給予“非人”的經(jīng)驗，其行為也不會像人。這就好比在輸入值差別很大的情況下，即使兩個數(shù)學(xué)函數(shù)幾乎等同，但其輸出值也可能有著天壤之別。

那么，為何不能給AGI人類的經(jīng)驗?zāi)?？原則上，人類感官及感知過程均可能被計算設(shè)備模擬到任意精度，但這在實際上卻不太可能。以視覺為例：每種光感受器都應(yīng)具有一定的靈敏度、解析度、反應(yīng)時等等。人眼如此，其它動物的眼或各種電子感光設(shè)備也莫不如此。因此，“讓計算機有視覺”和“讓計算機有和人類完全一樣的視覺”是兩個難度相差懸殊的任務(wù)。

退一萬步講，即便能夠在所有細節(jié)上模擬人類的全部感官，也仍然只能得到某人的直接的物理經(jīng)驗，依舊無法獲取從人際交流中得到的間接的社會經(jīng)驗。因為社會經(jīng)驗的取得，需要計算機被其他人（或機器）視為人。這已然不是能否實現(xiàn)的技術(shù)問題，而是是否需要或值得去做的問題了。

為了便于討論，假設(shè)全體人類社會確實像對待人類一般來對待AGI系統(tǒng)；在這種情況下，AI-1是有可能實現(xiàn)的。然而，這是基于對“智能”高度的人類中心主義的解釋，其實它應(yīng)該被稱為“人工的人類智能”。用人類行為來刻畫智能會令其他非人智能（如“動物智能”、“群體智能”、“外星智能”等）僅根據(jù)定義便成為不可能，僅僅因為它們并不具有類人的輸入和輸出。

這種人類中心主義的“智能觀”總是作為隱含的預(yù)設(shè)立場而存在，卻幾乎未被明確地討論過。一個突出的例子便是將圖靈測試作為AI的操作性定義，盡管圖靈自己只是將其視為智能或思維的充分條件而非必要條件。圖靈本人寫道：“難道機器不能進行一些與人不同卻可稱之為思維的活動？這個反詰很有力，但至少我們可以說，如果能夠很好地應(yīng)對角色扮演任務(wù)的機器可以被造出來，我們就不必為這種反詰而煩惱”。這就是說，即使“行為像人”說明有智能，“行為不像人”也未必就是沒有智能。

在當前AGI研究中，幾乎沒有人將目標設(shè)定為建立AI-1系統(tǒng)；相反，將他們的工作視為某種AI-3的版本才更適合。他們認為，“思維機器”或“通用智能”不僅和人類心智有可比性，甚至可能在某種抽象意義上完全相同，盡管未必是行為細節(jié)的全部等同。就像我們認為魚和鳥有視覺但卻與人類之所見非常不同一樣，這種行為差異的存在并不意味著非人系統(tǒng)無法擁有真正的智能。

“奇點”（Singularity?）與通用人工智能（AGI）

“奇點”，也被稱為“技術(shù)奇點”，是另一個既無準確含義也未被廣泛接受的概念。盡管常見于一些作品而為公眾所熟知，但實際上這并不是一個真正的計算機科學(xué)或技術(shù)術(shù)語。

“AI將導(dǎo)致奇點”這一觀點的典型表述可以分解為下列三個結(jié)論：

1、系統(tǒng)的智能水平可以表示為一個數(shù)值。

2、經(jīng)由學(xué)習(xí)或迭代改進，AI能夠提升自己的智能水平。

3、當AI的智能水平超越人類，它的整個未來將被我們視作一個單點，因為從那以后這個系統(tǒng)將超出人類的理解范圍。

當然，有人也僅使用“奇點”一詞來指代“AI達到人類水平”或“計算機比人類更聰明”這個時間節(jié)點，而不做其他假設(shè)。接下來，我們將聚焦于上述典型表述，因為當它被分析之后，我們對其各種變體的看法也便一望而知了。

第一句話看似正確，畢竟一個“聰明”或“智慧”的系統(tǒng)應(yīng)該可以解決許多實際問題，而人們也總是利用各式測驗和檢測來評估效果，比如人類自身便通常使用“智商”（IQ）來衡量智力水平。盡管為通用系統(tǒng)的問題解決能力的找到一個恰當?shù)亩攘拷^非易事，但為方便討論，我們假設(shè)可以確立這樣的一個度量S，代表系統(tǒng)在解題能力上所得的“分數(shù)”。即使如此，我們也不認為這是一個衡量系統(tǒng)“智能”的正確標準，因為它完全排除了時間因素。在通常意義下，人們往往把“智能”與后天習(xí)得的解決問題能力相聯(lián)系，而非先天擁有的問題解決能力。出于這個原因，在某一給定時刻t，系統(tǒng)的智能應(yīng)該用該時刻增速S'(t)而非S(t)來衡量，也就是說，智能水平不是指系統(tǒng)在此刻能解決多少實際問題，而是指其解題能力在此刻的增長速度。

圖1 時間t與總分S的四種不同關(guān)系

圖1更為直觀地展示出S(t)和S'(t)之間的差異。就當前的討論而言，就其所能解決的問題的數(shù)量S與時間t的關(guān)系可區(qū)分出四類不同的系統(tǒng)：

藍線對應(yīng)于一個完全沒有學(xué)習(xí)能力的系統(tǒng)。系統(tǒng)能力完全由先天因素確定，即S'(t) = 0。所有傳統(tǒng)的計算系統(tǒng)都屬于這一類，盡管其中一些被人們視為“AI”。

紫線對應(yīng)于一個學(xué)習(xí)能力有限的系統(tǒng)。此類系統(tǒng)中S'(t) > 0，但最終收斂至0。絕大多數(shù)的機器學(xué)習(xí)算法都屬于該類。

綠線對應(yīng)于一個學(xué)習(xí)能力基本恒定的系統(tǒng)。此時，S'(t)是一個正常數(shù)。包括我們團隊在內(nèi)的許多AGI項目都屬于這種類型。

紅線對應(yīng)于一個學(xué)習(xí)能力本身在增長的系統(tǒng)，其S(t)和S'(t)均呈指數(shù)遞增。我們認為這樣的系統(tǒng)并不存在，在此僅將其作為一種可能性列出來。

粗略地說，這里的 S(t) 表示“解決問題的能力”，S'(t) 則表示“學(xué)習(xí)的能力”，“能夠解決多少問題”與“能夠?qū)W到多少東西”并不直接相關(guān)。如圖1所示，取決于其中的常量和測量的時刻，四種類型中的任意一種都可能成為問題解決能力最強者，但其學(xué)習(xí)能力卻各不相同，由弱至強可排序為：藍線 < 紫線 < 綠線 < 紅線。

我們認為，智能水平應(yīng)由S'(t) 而非S(t) 來刻畫，盡管這與當前主流觀點不同，但事實上這種理解不僅更加符合“智能”一詞的深層含義，也有助于開創(chuàng)AI研究的新局面。

上述結(jié)論與人類智商（IQ）的衡量方式其實并不沖突，雖然智商測試的直接目標上是問題解決能力。智商是人的“心智年齡”（由測試分數(shù)給出）除以所在年齡段之商。在人們先天的問題解決能力S(0) 并無明顯差異的情況下，更高的S(t) 值意味著更高的S'(t) 值，所以可以用IQ來衡量某人的學(xué)習(xí)效能與他人的差異。然而，這對于AI系統(tǒng)卻不能成立，因為不同的計算機系統(tǒng)可以有差異極大的S(0)值，取決于它們不同的設(shè)計與配置。

盡管在AI研發(fā)過程中“學(xué)習(xí)”往往與“問題解決”被置于同一層面，但“學(xué)習(xí)是智能的核心”的見解卻早已有之。按照我們的理論，各類問題解決能力處于“對象層次”，而學(xué)習(xí)能力則是處于“元層次”。正如前面“AI與AGI”比較中所提及的，這一差異開啟了另一扇窗：主流AI研究把智能視為解決特定問題的能力，由于不同的問題具有不同的問題特征，其解決方案也因此不同。相反，AGI關(guān)注的是獨立于具體領(lǐng)域的“元問題”。其實，這兩種方法既不重疊也非競爭，而是互補的?！熬G線族”便是個很好的例子，這類系統(tǒng)將其元層次的知識和操作看做“智能”（主要來自系統(tǒng)先天預(yù)設(shè)），而將其對象層次的知識和操作視為“信念和技能”（主要來自系統(tǒng)后天經(jīng)驗）。當我們說此類系統(tǒng)達到“人類水平”時，實際上意指其元知識和元操作與人類的相類似，不論對象層的信念和技能和人有多大程度的重合。

在AI系統(tǒng)中元知識的習(xí)得并非不可能，但有幾個重要問題卻很少在相關(guān)討論中被提及：

許多AI系統(tǒng)中雖然存在著“對象層次”和“元層次”之別，但其具體邊界取決于系統(tǒng)的設(shè)計，所以某系統(tǒng)元層次上的學(xué)習(xí)可能對應(yīng)于另一系統(tǒng)對象層次上的學(xué)習(xí)。

有的“元學(xué)習(xí)”算法用窮舉嘗試找尋最優(yōu)解，但考慮其所消耗的時空資源及潛在風險，這種做法其實并不可取。

一個常見的誤解是將“遞歸式的自我改進”與“系統(tǒng)修改自身源代碼”相等同。對于Lisp和Prolog這樣的編程語言，自身源代碼修改和函數(shù)生成其實早已實現(xiàn)；但是，這些技術(shù)的實際使用并不會造成革命性的后果，因為其他編程語言也可以通過對某些數(shù)據(jù)的修改而實現(xiàn)同樣的效果。請注意，“程序”與“數(shù)據(jù)”二者之間并無理論鴻溝，只是應(yīng)用解釋有別而已。

由于現(xiàn)有的機器學(xué)習(xí)技術(shù)是為對象層任務(wù)而設(shè)計的，因此對學(xué)習(xí)元知識并不能勝任。人類的大腦也是如此：作為一個個體，我們的心理機制大多是先天形成，只能通過有限的方式緩慢地加以調(diào)整。只有在規(guī)模上升到物種層面的討論時，人類才會借由進化而“學(xué)習(xí)”，但付出的代價卻是更慢的速度和更高的風險（對個體而言，不佳的改變往往致命）。于是，最好將群際內(nèi)的元學(xué)習(xí)過程稱為“進化”，而為個體對象層的學(xué)習(xí)過程保留“智能”一詞。

時至今日，我們依然沒有看到任何說明“紅線族”系統(tǒng)可能存在的確實證據(jù)。雖然奇點的支持者經(jīng)常把“指數(shù)增長”現(xiàn)象的存在掛在嘴邊，其證據(jù)也不是關(guān)于一個能夠自我改進的獨立系統(tǒng)中的?？v然“智能”是一個程度的問題，也沒有證據(jù)表明智能在“人類水平”之上依舊可以無限提升。“超人智能”往往是對應(yīng)于“低于人類水平的智能”的一種類比，而這里的“智能水平”既包括對象層因素也包括元層次因素。在這里，S(t)值顯然可以通過知識、技能或計算資源任意的增長而提高，但“超人智能”和高S(t)值不是一回事。在元層次上，“超人智能”意味著一種完全不同的思維機制，能夠更好地滿足適應(yīng)的目的。當然我們不能否認這種可能性，但確實沒有看到任何證明其可能存在的證據(jù)。

計算機能比人類更聰明嗎？如果“更聰明”是指更高的問題解決能力的話，那么這在很多領(lǐng)域中早已發(fā)生了。計算機在很多方面都比人做得好，卻尚不足冠以“智能”之冕，不然連數(shù)值計算和排序算法也都能算作其所在領(lǐng)域的智能標兵了。引入“AGI”一詞的原因也正是要避免這種什么都算是“有智能”的局面。同樣，盡管“機器學(xué)習(xí)”的字面意思也包括了“綠線族”系統(tǒng)，而且機器學(xué)習(xí)領(lǐng)域一開始還是“百花齊放”，但現(xiàn)在“機器學(xué)習(xí)”一詞卻幾近等同為“統(tǒng)計學(xué)的函數(shù)擬合”，變得僅僅側(cè)重“紫線族”而已。故此，不得不用一個新的名稱來避免混淆。對“綠線族”或“紅線族”而言，S(t) 雖能夠提升至任意水平，甚至“比人類聰明”，但受到傳感器、動作器及經(jīng)驗所限，并不意味著在每一個問題都能比人做得更好。在這一問題上，“綠線族”和“紅線族”之間存在根本差別：由于“綠線族”內(nèi)部的元知識由其設(shè)計者指定，所以即使其S(t)值遠高于人類水平，人們?nèi)匀荒軌蚶斫馑倪\行原理及基本工作過程。而相反，如若果真存在某個“紅線族”系統(tǒng)，它將在某個時間點之后讓人連它是如何工作都變得無法理解。

既然不相信“紅線族”能夠存在，我們也不認為“奇點”可能發(fā)生。但是，我們卻堅信可媲美人類心智的AGI系統(tǒng)是能夠創(chuàng)建出來。這種系統(tǒng)在元層次上的能力與人類大致相等（不高也不低但未必完全相同），而在對象層次上的能力則可高于人類（指總分，而非每項任務(wù)）。這些AGI系統(tǒng)仍舊可以經(jīng)由人類或自身來持續(xù)改進，但不會突現(xiàn)一個機制全然不同的“超人智能”。

總結(jié)：AGI是等同于人類的計算機系統(tǒng)，無需處處一致

因此，我們的智能觀是：

AGI將是在原理、機制和功能上與人類智能相似的計算機系統(tǒng)，卻不必然非得在內(nèi)部結(jié)構(gòu)、外部行為或問題解決能力上與人一致。作為另一種智力形式，AGI將具有與人類大致相同的智能水平，既不會過不高也不會過低。對于具體的問題解決能力而言，由于軀體和經(jīng)驗的差別，AGI既可能比人強也可能不如人。

AGI的實現(xiàn)需要新理論、新模型和新技術(shù)。當前主流AI基本上延循著智能就是問題解決能力這一思路而發(fā)展，所以其發(fā)展路線并未朝向AGI，從而也具有與AGI所不同的理論和實踐價值。

即使AGI已然實現(xiàn)，也不會導(dǎo)致一個奇點出現(xiàn)，以至于智能計算機系統(tǒng)變得完全無法理解、不可預(yù)知和無法控制。相反，AGI的實現(xiàn)意味著智能本質(zhì)已為人所悉，這將進一步引導(dǎo)人們使用AGI來滿足人類的價值和需求。

AGI的研究還處于初期，因此各方高見皆有價值。但正所謂“大川歸道，百寶萬貨”，為了取得一個最低共識有必要澄清基本問題，以便避免驢唇不對馬嘴的情況出現(xiàn)。