ChatGPT掀智力革命！OpenAI發(fā)布AGI路線圖，最終通向超級智能世界

ChatGPT爆火出圈讓人們開始重新思考人工智能的未來在哪？恰在25日，OpenAI發(fā)布了通用人工智能路線圖，分享了其對AGI的短期和長期規(guī)劃。

繼ChatGPT成當(dāng)紅炸子雞后，微軟、谷歌、Meta等大廠紛紛入局。隨之而來的是，人們對其廣泛應(yīng)用也產(chǎn)生了擔(dān)憂。

前Alphabet執(zhí)行董事Eric Schmidt和其他合著者在WSJ發(fā)表的文章中稱，生成式人工智能提出了自啟蒙運動以來從未經(jīng)歷過的哲學(xué)挑戰(zhàn)和實踐挑戰(zhàn)。

就在25日，OpenAI首席執(zhí)行官Sam Altman發(fā)文，分享了OpenAI對通用人工智能（AGI）的當(dāng)前和后續(xù)規(guī)劃。文章強調(diào)，OpenAI的使命是確保AGI造福全人類。

OpenAI愿景：確保AGI造福全人類

文中，提出了OpenAI最關(guān)心的三原則。

如果AGI最終成功構(gòu)建，這項技術(shù)不僅可以帶來更多可能性，推動全球經(jīng)濟(jì)發(fā)展，還能改變新興科學(xué)知識的發(fā)現(xiàn)，從方方面面幫助人類提升生活水平。

AGI可以賦予每個人不可思議的新能力。

在AGI觸手可及的世界，所有人都可以獲得幾乎所有認(rèn)知能力的幫助，AGI或許能成為人類才智和創(chuàng)造力的巨大力量增幅器。

但另一方面，正如一些人所擔(dān)心的，通用人工智能也會造成嚴(yán)重的濫用、意外和社會混亂。 然而，AGI的益處令人驚嘆，我們不能諱疾忌醫(yī)，讓社會永遠(yuǎn)停止發(fā)展；相反，社會和AGI開發(fā)者必須要想辦法把它做好。 與通用人工智能共同生活的未來圖景難以預(yù)測，當(dāng)前AI的進(jìn)展可能會遭遇新的挑戰(zhàn)，但在ChatGPT獲得成功的當(dāng)下，我們列出了公司最關(guān)心的幾項原則： 1.希望AGI可以為人類賦能，使人類能夠在宇宙中實現(xiàn)最大程度的繁榮。我們不希望未來成為一個虛假的烏托邦，但我們希望將技術(shù)好的一面最大化，壞的一面最小化，讓AGI成為人類善意的放大器。 2.希望以公平的方式，更廣泛地分享AGI的益處、獲取和治理。 3.要正確應(yīng)對潛在風(fēng)險。在面對這些風(fēng)險時，理論上似乎正確的事情在實踐中往往比預(yù)期更難以控制。我們必須通過部署功能較弱的技術(shù)版本來不斷學(xué)習(xí)和適應(yīng)，以最大程度地減少「無可挽回」的情況。

短期目標(biāo)：為AGI做好三項準(zhǔn)備

因此在短期內(nèi)，OpenAI計劃做到以下幾件事。 首先，隨著公司不斷構(gòu)建出更為強大的AI系統(tǒng)，我們希望快速部署AGI，以積累在相應(yīng)的應(yīng)用經(jīng)驗。 在OpenAI看來，謹(jǐn)慎管理AGI的最佳方式應(yīng)該是逐漸過渡到AGI普及的世界。我們期望的未來，強大的人工智能技術(shù)能夠加快世界進(jìn)步的速度，漸進(jìn)的方式讓大眾、政策制定者和研究機構(gòu)有時間了解AGI技術(shù)帶來的改變，親身體驗這些系統(tǒng)的好處和缺點，調(diào)整經(jīng)濟(jì)組織形式，并實施有效監(jiān)管。

同時，漸進(jìn)的發(fā)展方式還能促使社會和AI共同進(jìn)步，讓人們在風(fēng)險相對較低的情況下了解自身。 OpenAI認(rèn)為，成功解決AI應(yīng)用挑戰(zhàn)的最佳方法是采用快速學(xué)習(xí)和謹(jǐn)慎迭代的緊密反饋循環(huán)。在新技術(shù)的沖擊下，社會將面臨「人工智能系統(tǒng)被允許做什么、如何消除偏見、如何處理工作崗位流失」等重大問題。 增加AI技術(shù)的使用大有裨益，OpenAI希望成為推廣該技術(shù)的一員，通過將模型放入服務(wù)API中，將它們開源等方式實現(xiàn)。 OpenAI表示，隨著其開發(fā)的系統(tǒng)越來越接近AGI，該機構(gòu)在模型的創(chuàng)建和部署方面都變得越來越謹(jǐn)慎。 OpenAI需要權(quán)衡使用大模型的利弊。一方面，使用先進(jìn)的大模型標(biāo)志著重要的科技進(jìn)展；另一方面，使用模型之后，公司和機構(gòu)也需要考慮如何限制惡意行為者、避免對社會和經(jīng)濟(jì)造成不良影響等問題。

其次，OpenAI正在努力創(chuàng)建更加一致和可控的模型。從GPT-3的第一個版本到InstructGPT和ChatGPT，這一步步的轉(zhuǎn)變都彰顯OpenAI在AI安全性方面所做的努力。

值得注意的是，人類社會需要就如何使用人工智能達(dá)成極其廣泛的界限。隨著模型變得更強大，OpenAI將需要開發(fā)新的對齊技術(shù)。

OpenAI的短期計劃是使用AI來幫助人類評估更復(fù)雜模型的輸出并監(jiān)控復(fù)雜系統(tǒng)，而從長遠(yuǎn)來看，OpenAI將會使用AI來幫助獲得更好的對齊技術(shù)。

OpenAI認(rèn)為，人工智能安全和能力同樣重要，二者不應(yīng)該分開談?wù)?。OpenAI表示其最安全的工作出自其最有能力的模型之手。也就是說，提高人工智能的安全性對AI研究進(jìn)步非常重要。

第三，OpenAI 希望全球范圍內(nèi)解決三個關(guān)鍵問題：人工智能系統(tǒng)的治理問題，AI系統(tǒng)產(chǎn)生的收益的分配問題，以及訪問權(quán)限的共享問題。

此外，根據(jù)OpenAI公司章程，OpenAI需協(xié)助其他組織提高安全性，不能在后期AGI開發(fā)中與對手競爭。

OpenAI投資規(guī)則中對股東可以獲得的回報設(shè)定了上限，這樣研究機構(gòu)本身就不會被引誘去嘗試無限制地獲取價值，也不會冒險使用具有災(zāi)難性危險的技術(shù)。

OpenAI由非營利組織管理，以保證該機構(gòu)是為人類的利益而運行，并且可以凌駕于任何營利利益之上。

最后，OpenAI認(rèn)為全球政府應(yīng)對超過一定規(guī)模的機器學(xué)習(xí)訓(xùn)練保持監(jiān)管。

長遠(yuǎn)目標(biāo)：更加繁榮的超級智能世界

相比于短期計劃，OpenAI的AGI長遠(yuǎn)發(fā)展顯得更為宏大。 OpenAI相信人類的未來應(yīng)該由人類自己決定，與公眾分享有關(guān)進(jìn)步的信息至關(guān)重要。因此，應(yīng)該對所有AGI發(fā)展項目進(jìn)行嚴(yán)格審查，并在重大決策上面向公眾進(jìn)行咨詢。 在OpenAI看來，第一個AGI只會是人工智能持續(xù)發(fā)展中的一個小節(jié)點，然后從這個節(jié)點開始不斷衍生出新的進(jìn)展。公司預(yù)測，AI的未來發(fā)展可能會在很長一段時間內(nèi)和我們過去十年的進(jìn)展速度類似。 也許有一天，世界會發(fā)生翻天覆地的變化，科技的進(jìn)步也可能帶給人類很大的風(fēng)險。一個「錯位的」超級智能AGI可能會對世界造成嚴(yán)重的傷害。

因此，OpenAI認(rèn)為放緩AGI的發(fā)展速度更容易確保安全。即使技術(shù)的進(jìn)展讓我們有迅速發(fā)展AGI的能力，但保持減速能讓社會有足夠的時間來適應(yīng)。 成功過渡到一個擁有超級智能的世界可能是人類歷史上最重要、最有希望，但也最可怕的項目。沒人能保證這一天何時到來，但人們已經(jīng)探明的利害關(guān)系有助于將所有人團(tuán)結(jié)起來。 無論如何，那將是一個繁榮到超乎想象的世界。而OpenAI希望為世界貢獻(xiàn)一個與這種繁榮相一致的通用人工智能。

ChatGPT預(yù)示著一場智力革命

近日，前美國務(wù)卿Henry Kissinger、前Alphabet執(zhí)行董事Eric Schmidt、麻省理工蘇世民計算機學(xué)院首任院長Daniel Huttenlocher撰寫了一篇「ChatGPT預(yù)示著一場智力革命」的文章。 文章中透露了他們對當(dāng)前生成式人工智能的擔(dān)憂：生成式人工智能提出了自啟蒙運動以來從未經(jīng)歷過的哲學(xué)和實踐挑戰(zhàn)。

文章開頭便闡述了當(dāng)前ChatGPT對人類的影響。 一項新技術(shù)旨在改變?nèi)祟惖恼J(rèn)知過程，因為它自印刷術(shù)發(fā)明以來從未動搖過。 1455年印刷古騰堡圣經(jīng)的技術(shù)使抽象的人類思想得以普遍而迅速地傳播。但今天的這項新技術(shù)逆轉(zhuǎn)了這一過程。 印刷機造成了現(xiàn)代人類思想的大量涌現(xiàn)，而新技術(shù)則實現(xiàn)了對它的提煉和闡述。 在這一過程中，它在人類知識和人類理解之間造成了差距。 如果我們要成功地駕馭這種轉(zhuǎn)變，就需要發(fā)明人類思想和與機器交互的新概念。這就是人工智能時代的基本挑戰(zhàn)。 這項新技術(shù)被稱為生成性人工智能，最具代表性的便是OpenAI研究實驗室開發(fā)的ChatGPT。

隨著它的能力變得變得更加廣泛，它們將重新定義人類的知識，加速我們現(xiàn)實結(jié)構(gòu)的變化，并重組政治和社會。 生成式人工智能同樣將為人類理性開辟革命性的道路，為鞏固知識開辟新的視野。 但兩者之間也存在著明顯的區(qū)別。啟蒙知識是逐步實現(xiàn)的，每一步都是可測和可教的。 AI系統(tǒng)，如ChatGPT，可以存儲和提煉大量現(xiàn)有信息，并能夠在不解釋其過程情況下輸出結(jié)果，這是人類無法做到的。 此外，人工智能的能力不是一成不變的，而是隨著技術(shù)的進(jìn)步呈指數(shù)級增長。 我們迫切需要開發(fā)一種復(fù)雜的辯證法，使人們能夠挑戰(zhàn)生成式人工智能的交互性，不僅要證明或解釋人工智能的答案，還要對其進(jìn)行審問。 帶著一致的懷疑態(tài)度，我們應(yīng)該學(xué)會有條不紊地探索人工智能，并評估它的答案是否值得信任，以及在何種程度上值得信任。這將需要有意識地減少我們無意識的偏見，進(jìn)行嚴(yán)格的訓(xùn)練和大量的實踐。 問題仍然存在：我們能不能足夠快地學(xué)會挑戰(zhàn)而不是服從？還是我們最終將不得不服從？我們所認(rèn)為的錯誤是故意設(shè)計的一部分嗎？如果人工智能中出現(xiàn)了惡意的因素怎么辦？ 另一個關(guān)鍵任務(wù)是，反思哪些問題必須留給人類思考，哪些問題可以冒險交給自動化系統(tǒng)。 然而，即使有了強化的懷疑主義和審問技巧，ChatGPT也證明了生成技術(shù)的精靈已經(jīng)離開了瓶子。我們必須對我們所問的問題進(jìn)行深思熟慮。 隨著該技術(shù)得到更廣泛的理解，它將對國際關(guān)系產(chǎn)生深遠(yuǎn)的影響。除非知識的技術(shù)是普遍共享的，否則帝國主義可能專注于獲取和壟斷數(shù)據(jù)，以達(dá)到人工智能的最新進(jìn)展。 模型可能會根據(jù)收集的數(shù)據(jù)產(chǎn)生不同的結(jié)果。社會的不同演變可能會在日益不同的知識基礎(chǔ)的基礎(chǔ)上演變，從而對挑戰(zhàn)的認(rèn)識也會不同。 文末提出了讓人們值得深思的兩個問題： 如果不能完全控制這項技術(shù)會怎樣？ 如果總是有辦法編造謊言、制作虛假圖片和視頻，而人們永遠(yuǎn)無法學(xué)會不相信他們的所見所聞，那該怎么辦？

Meta首席AI科學(xué)家LeCun回答道，人們將學(xué)會更好地追蹤來源，并評估他們所見所聞的可靠性，這很可能是在新技術(shù)的幫助下。當(dāng)前的自回歸LLM是出了名的不可控，但新的AI系統(tǒng)在需要時是可控的、真實的并且無毒的。

還有網(wǎng)友引用了Andy Grove的話「有兩種選擇：適應(yīng)或死亡」。

要是你會怎么做？