ChatGPT 的背后：OpenAI 創(chuàng)始人Sam Altman如何用微軟的數(shù)十億美元打造了全球最熱門技術(shù)

內(nèi)容來自MoPaaS

編者按：

ChatGPT產(chǎn)生的影響還在繼續(xù)，ChatGPT 以及其創(chuàng)造者 OpenAI 背后的故事卻鮮為人知。OpenAI 是怎樣偏離其初心堅(jiān)持商業(yè)化？憑什么 Altman可以讓微軟早期押注他們? OpenAI原來的安全團(tuán)隊(duì)為什么分家與他們分庭抗?fàn)?？ChatGPT的編程能力是怎樣被發(fā)現(xiàn)的？ChatGPT 為什么差點(diǎn)被扼殺掉？ChatGPT是怎樣歪打正著成為爆款？Altman 為什么時(shí)而理想主義狂熱時(shí)而又回到反烏托邦？OpenAI 今年還可能會(huì)有哪些驚喜？...“The inside story of ChatGPT”（“ChatGPT 的內(nèi)幕故事”）將為你解密這一切。該文由《財(cái)富》雜志資深作者JEREMY KAHN采訪研究完成，并將以標(biāo)題“ChatGPT creates an A.I. frenzy”（“ChatGPT創(chuàng)造了AI狂潮”）在美國(guó)《財(cái)富》雜志2023年2月/3月號(hào)上發(fā)表。我們特編譯出來和各位客戶、合作伙伴朋友分享。

在一代人的時(shí)間中總有一種產(chǎn)品的出現(xiàn)，它將從工程系昏暗的地下室、書呆子們臭氣熏天的青少年臥室和愛好者們孤獨(dú)的洞穴中彈射出來，變成了你的祖母Edna都知道如何使用的東西。早在 1990 年就有網(wǎng)絡(luò)瀏覽器，但直到 1994 年Netscape Navigator的出現(xiàn)，大多數(shù)人才發(fā)現(xiàn)了互聯(lián)網(wǎng)。2001 年 iPod 問世之前就已經(jīng)有了 MP3 播放器，但它們并沒有引發(fā)數(shù)字音樂革命。在2007 年蘋果推出iPhone之前，也有智能手機(jī)，但在 iPhone 之前，沒有智能手機(jī)的應(yīng)用程序。

2022 年 11 月 30 日，人工智能迎來了 Netscape Navigator 時(shí)刻。這一時(shí)刻是由OpenAI 的首席執(zhí)行官Sam Altman 開啟的，OpenAI 是一家總部位于舊金山的人工智能公司，成立于 2015 年，得到了包括Elon Musk 、Peter Thiel 和PayPal校友、LinkedIn聯(lián)合創(chuàng)始人Reid Hoffman 等多位硅谷重量級(jí)人物的資金支持。11 月 30 日，也是公司成立大約七年后，Altman 在推特上寫道：“今天我們推出了 ChatGPT，嘗試在這里與它交談”，然后是一個(gè)鏈接，任何人都可以注冊(cè)一個(gè)帳戶，開始免費(fèi)與 OpenAI 的新聊天機(jī)器人交談。任何人都可以，而且不僅僅只是聊聊天氣。軟件 CEO 兼工程師 Amjad Masad 要求它調(diào)試他的代碼，它做到了。美食博主兼網(wǎng)紅Gina Homolka用它寫了一份健康巧克力曲奇的食譜。Scale AI 的工程師 Riley Goodside 要求它為Seinfeld劇集編寫劇本。Guy Parsons 是一名營(yíng)銷人員，他還經(jīng)營(yíng)著一家致力于 AI 藝術(shù)的在線畫廊，他讓它為他編寫提示，以輸入另一個(gè) AI 系統(tǒng)Midjourney, 從文本描述創(chuàng)建圖像。斯坦福大學(xué)醫(yī)學(xué)院的皮膚科醫(yī)生 Roxana Daneshjou也研究 AI 在醫(yī)學(xué)上的應(yīng)用，她向它提出了醫(yī)學(xué)問題，許多學(xué)生用它來做作業(yè)。而這還只是在聊天機(jī)器人發(fā)布后的 24 小時(shí)內(nèi)出現(xiàn)的。以前也出現(xiàn)過聊天機(jī)器人，但都不是這樣的。ChatGPT 可以進(jìn)行長(zhǎng)時(shí)間、流暢的對(duì)話，回答問題，并撰寫人們要求的幾乎任何類型的書面材料，包括商業(yè)計(jì)劃、廣告活動(dòng)、詩(shī)歌、笑話、計(jì)算機(jī)代碼和電影劇本。它遠(yuǎn)非完美：結(jié)果并不總是準(zhǔn)確的；它不能引用其信息來源；它幾乎不知道 2021 年之后發(fā)生的任何事情。

它所提供的內(nèi)容雖然通常流暢到足以通過高中課程甚至大學(xué)課程的考試，卻很少像人類專家那樣完美。另一方面，ChatGPT 會(huì)在一秒內(nèi)生成這些內(nèi)容，用戶幾乎沒有等待，而且它吐出的很多內(nèi)容都還不錯(cuò)。在ChatGPT發(fā)布后的五天內(nèi)，就有超過100萬的玩家，這是Facebook花了 10 個(gè)月才達(dá)到的里程碑。 在過去的十年中，人工智能技術(shù)穩(wěn)步進(jìn)入商業(yè)領(lǐng)域，并悄悄改進(jìn)了我們每天使用的許多軟件，但并未引起非技術(shù)人員的太大興趣。ChatGPT 改變了這一點(diǎn)。突然之間，每個(gè)人都在談?wù)撊斯ぶ悄苋绾晤嵏菜麄兊墓ぷ鳌⒐?、學(xué)校和生活。ChatGPT 是相關(guān)人工智能技術(shù)浪潮的一部分，這些技術(shù)統(tǒng)稱為“生成式人工智能”——其中還包括熱門的藝術(shù)生成器，如 Midjourney 和 Lensa。OpenAI處于科技行業(yè)下一件大事件的最前沿，具有初創(chuàng)公司史詩(shī)般的標(biāo)志，包括全明星陣容和狂熱的投資者，據(jù)報(bào)道，該公司的估值達(dá)到 290 億美元。

但是，盡管其最近的激增引發(fā)了嫉妒、驚奇和恐懼——據(jù)報(bào)道，其利潤(rùn)豐厚的搜索帝國(guó)可能會(huì)受到攻擊，谷歌宣布了內(nèi)部“紅色代碼”，以回應(yīng) ChatGPT—OpenAI 不太可能成為技術(shù)超級(jí)大國(guó)俱樂部的成員。直到幾年前，它還根本不是一家公司，而是一家致力于學(xué)術(shù)研究的小型非營(yíng)利性實(shí)驗(yàn)室。崇高的創(chuàng)始原則仍然存在，例如保護(hù)人類免受不受限制的人工智能的威脅。與此同時(shí)，OpenAI 也經(jīng)歷了內(nèi)部轉(zhuǎn)型，將其原來的員工分開，并更加關(guān)注商業(yè)項(xiàng)目而不是純科學(xué)項(xiàng)目上。（一些批評(píng)家認(rèn)為，將 ChatGPT 推向市場(chǎng)本身就很危險(xiǎn)，這也標(biāo)志著 OpenAI 的方法發(fā)生了深刻的轉(zhuǎn)變。）

“我認(rèn)為 [對(duì)于 AI] 的好案例是如此令人難以置信的好，以至于你談?wù)撍犉饋硐駛€(gè)瘋子。我認(rèn)為最壞的情況是我們所有人都熄燈了?！?/strong>★OPENAI聯(lián)合創(chuàng)始人兼首席執(zhí)行官 SAM ALTMAN 于 1 月 12 日在舊金山舉行的以風(fēng)險(xiǎn)投資為重點(diǎn)的活動(dòng)上發(fā)表講話本周，微軟宣布擴(kuò)大與OpenAI的合作伙伴關(guān)系，其中包括高達(dá) 100 億美元的新資本，這可能會(huì)使這家軟件巨頭在未來幾年占據(jù) OpenAI 利潤(rùn)的最大份額。這筆交易可能會(huì)加深人們的看法，即曾經(jīng)理想主義的努力現(xiàn)在主要關(guān)心的是賺錢。盡管如此，《財(cái)富》雜志看到的文件顯示，OpenAI 的業(yè)務(wù)目前是多么無利可圖。37 歲的聯(lián)合創(chuàng)始人兼首席執(zhí)行官Altman體現(xiàn)了 OpenAI 令人費(fèi)解的本質(zhì)。Altman 是一位連續(xù)創(chuàng)業(yè)的科技企業(yè)家，他更以商業(yè)頭腦而非工程壯舉而聞名，他既是 OpenAI估值飆升的設(shè)計(jì)師，也是該公司的首席執(zhí)行官，他曾公開表示 ChatGPT 離真正可靠還有多遠(yuǎn)。與此同時(shí)，他認(rèn)為這項(xiàng)技術(shù)是朝著開發(fā)一種被稱為人工通用智能（AGI）的計(jì)算機(jī)超級(jí)智能的宏大而不切實(shí)際的企業(yè)使命向前邁出的一步?！癆GI 可能是人類生存所必需的，” Altman在 7 月份發(fā)推文說?！叭绻麤]有更好的工具，我們的問題似乎太大，我們無法解決?！睂?duì)于一家賺錢的企業(yè)來說，這是一種不同尋常的指導(dǎo)理念，尤其是考慮到一些計(jì)算機(jī)科學(xué)家認(rèn)為Altman的癡迷只是一種幻想?！癆GI 很愚蠢，”加州大學(xué)伯克利分校的計(jì)算機(jī)科學(xué)家 Ben Recht 說?！拔业囊馑际牵@不是一回事?！?/p>

然而，借助 ChatGPT，Altman 已將 OpenAI 以及更廣泛的 AI 使命轉(zhuǎn)變?yōu)槲萍冀绲臇|西。問題在于，他與微軟建立的合作伙伴關(guān)系是否可以修復(fù) ChatGPT 的缺陷并利用其早期領(lǐng)先優(yōu)勢(shì)來改變科技行業(yè)。谷歌和其他巨頭正在努力開發(fā)自己的人工智能平臺(tái)；未來，更完善的軟件會(huì)讓 ChatGPT 看起來像小孩子在玩游戲。OpenAI 可能有一天會(huì)發(fā)現(xiàn)，就像 Netscape 短暫的瀏覽器統(tǒng)治一樣，它的突破打開了一扇通往未來的門，而這扇門并不屬于它。

1 月中旬的一個(gè)星期四晚上，Altman罕見地在舊金山公開露面。這位 CEO 穿著灰色毛衣、藍(lán)色牛仔褲和一雙顏色鮮艷的時(shí)髦扎染運(yùn)動(dòng)鞋，走進(jìn)了一個(gè)滿是投資者、技術(shù)人員和記者的房間，他們聚集在一起收集關(guān)于 ChatGPT 或即將到來的融資輪的任何信息。當(dāng)Altman的采訪者、專注于風(fēng)險(xiǎn)投資的媒體公司 StrictlyVC 的創(chuàng)始人 Connie Loizos 向他詢問媒體的狂熱時(shí)，Altman回答說：“我不看新聞，我也不太會(huì)做這樣的事情”。

該活動(dòng)在Salesforce 大樓的 46 層舉行，現(xiàn)場(chǎng)只有站立的空間。在接受采訪前舉行的金融科技小組討論會(huì)上，一位發(fā)言人甚至告訴聽眾，她知道他們“都在等 Sam Altman”。 但是，盡管議論紛紛，并且流傳著微軟投資的謠言，但Altman似乎還是刻意打消了人們的這種興奮。“這些技術(shù)的一個(gè)奇怪之處在于，它們令人印象深刻但并不穩(wěn)健，”他告訴人群?！八阅阍诘谝粋€(gè)演示中使用它們；你會(huì)有種令人印象深刻的反應(yīng)，“哇，這太不可思議了，準(zhǔn)備好了”。但你看到它一百次，你就會(huì)看到它的弱點(diǎn)?！边@種謹(jǐn)慎似乎是 OpenAI 總部的官方模式，該總部位于舊金山 Mission 區(qū)的一家舊箱包工廠。事實(shí)上，如果 ChatGPT 是 AI 的 Netscape Navigator 時(shí)刻，那它幾乎從未發(fā)生過，因?yàn)?OpenAI 幾個(gè)月前幾乎扼殺了這個(gè)項(xiàng)目。允許用戶用簡(jiǎn)單的英語（和許多其他語言）與 AI 交談的聊天界面最初是由 OpenAI 構(gòu)想的，作為改進(jìn)其“大型語言模型” LLM 的一種方式。大多數(shù)生成式人工智能系統(tǒng)的核心都是LLM。它們是通過采用非常龐大的神經(jīng)網(wǎng)絡(luò)（一種基于人腦連接的人工智能）并將它們應(yīng)用于大量人類創(chuàng)建的文本而創(chuàng)建的。從這個(gè)庫(kù)中，該模型學(xué)習(xí)了一個(gè)復(fù)雜的映射，即在任何給定上下文中，任何一組單詞將會(huì)出現(xiàn)在另一個(gè)單詞旁邊。

這使得 LLM 能夠執(zhí)行大量的自然語言處理任務(wù)，從翻譯到摘要再到寫作。 OpenAI 已經(jīng)創(chuàng)建了世界上最強(qiáng)大的LLM 之一。它被稱為 GPT-3，擁有超過 1750 億個(gè)參數(shù)，并在大約三分之二的互聯(lián)網(wǎng)、所有維基百科和兩個(gè)大型書籍?dāng)?shù)據(jù)集上接受訓(xùn)練。但是 OpenAI 發(fā)現(xiàn)讓 GPT-3 產(chǎn)出用戶想要的東西可能很棘手。一個(gè)團(tuán)隊(duì)有使用強(qiáng)化學(xué)習(xí)的想法，人工智能系統(tǒng)通過反復(fù)試驗(yàn)來學(xué)習(xí)以最大化獎(jiǎng)勵(lì)，來完善模型。該團(tuán)隊(duì)認(rèn)為聊天機(jī)器人可能是這種方法的理想候選者，因?yàn)橐匀祟悓?duì)話的形式不斷提供反饋將使人工智能軟件很容易知道它何時(shí)做得很好以及需要改進(jìn)的地方。因此，在 2022 年初，該團(tuán)隊(duì)開始構(gòu)建 ChatGPT。當(dāng)ChatGPT準(zhǔn)備就緒后，OpenAI 讓 Beta 測(cè)試人員使用ChatGPT。但根據(jù) OpenAI 聯(lián)合創(chuàng)始人兼現(xiàn)任總裁Greg Brockman 的說法，他們并沒有像 OpenAI 希望的那樣接受它；人們不清楚他們應(yīng)該與聊天機(jī)器人談?wù)撌裁?。有一段時(shí)間，OpenAI 改變了策略，試圖構(gòu)建專家聊天機(jī)器人，以幫助特定領(lǐng)域?qū)I(yè)人士。但這項(xiàng)努力也遇到了問題，部分原因是 OpenAI 缺乏訓(xùn)練專家機(jī)器人的正確數(shù)據(jù)。Brockman說，幾乎就像孤注一擲一樣，OpenAI 決定將 ChatGPT 從板凳上拉下來，并將其放在野外供公眾使用?！拔页姓J(rèn)，我不知道這是否會(huì)奏效，” Brockman說。聊天機(jī)器人的迅速傳播讓OpenAI 猝不及防，OpenAI 的首席技術(shù)官 Mira Murati 說，“這絕對(duì)令人驚訝，”。在舊金山 VC 活動(dòng)上Altman 說，他“本以為一切都會(huì)少一個(gè)數(shù)量級(jí)，少一個(gè)數(shù)量級(jí)的炒作?！?/p>

ChatGPT 不是 OpenAI 唯一的炒作工具，該公司只有 300 名左右的員工，規(guī)模相對(duì)較小，但在創(chuàng)建數(shù)據(jù)（而不僅僅是分析數(shù)據(jù)）方面，已經(jīng)突破了人工智能的極限。DALL-E 2 是 OpenAI 的另一項(xiàng)創(chuàng)作，它允許用戶通過輸入幾個(gè)詞來創(chuàng)建他們可以想象的任何事物的逼真圖像。該系統(tǒng)現(xiàn)在已被其他公司模仿，包括 Midjourney 和一個(gè)名為Stability AI的開源競(jìng)爭(zhēng)對(duì)手. （所有這些圖像生成器都有缺點(diǎn)，最顯著的是它們傾向于放大訓(xùn)練數(shù)據(jù)的偏差，生成可能具有種族主義和性別歧視的圖像。）通過在計(jì)算機(jī)代碼上微調(diào)其 GPT LLM，OpenAI 還創(chuàng)建了Codex ，一個(gè)可以為程序員編寫代碼的系統(tǒng)，程序員只需用簡(jiǎn)單的語言指定他們想要代碼做什么。

更多的創(chuàng)新在等待，OpenAI在 beta 測(cè)試中有一個(gè)更強(qiáng)大的 LLM，稱為 GPT-4，預(yù)計(jì)將在今年發(fā)布，甚至可能很快發(fā)布。Altman 還表示，該公司正在開發(fā)一種可以根據(jù)文本描述生成視頻的系統(tǒng)。與此同時(shí)，在 1 月中旬，OpenAI 表示打算發(fā)布ChatGPT 的商業(yè)版本，并宣布了一個(gè)等待名單，供潛在客戶通過一個(gè)界面注冊(cè)付費(fèi)訪問該機(jī)器人，從而使他們能夠更輕松地集成它到他們自己的產(chǎn)品和服務(wù)中。

憤世嫉俗的人可能會(huì)認(rèn)為，OpenAI正在籌集大量風(fēng)險(xiǎn)投資這一事實(shí)可能與 ChatGPT 的發(fā)布時(shí)間有關(guān)。（OpenAI 說這個(gè)時(shí)間是巧合。）可以肯定的是，ChatGPT 在充滿鯊魚的水域中游弋。這在風(fēng)險(xiǎn)投資公司中掀起了一股搶購(gòu)狂潮，他們希望在 OpenAI 高管、員工和創(chuàng)始人持有的私募股權(quán)中搶購(gòu)股票。

該收購(gòu)報(bào)價(jià)與微軟剛剛宣布的新投資一起發(fā)生，這將為該公司注入高達(dá) 100 億美元的新資本。微軟于 2016 年開始與 OpenAI 合作，并與這家初創(chuàng)公司建立了戰(zhàn)略合作伙伴關(guān)系，于三年前宣布向該公司投資10 億美元。據(jù)熟悉新收購(gòu)報(bào)價(jià)的消息人士稱，盡管這種不尋常的結(jié)構(gòu)為微軟帶來了巨大的財(cái)務(wù)優(yōu)勢(shì)，它已被大量超額認(rèn)購(gòu)。根據(jù)《財(cái)富》雜志看到的文件顯示，在新投資完成后，在OpenAI 的第一批投資者收回初始資本后，微軟將有權(quán)獲得 OpenAI 75% 的利潤(rùn)，直到它收回其投資的 130 億美元，這一數(shù)字包括之前對(duì) OpenAI 的 20 億美元投資，該投資直到今年1月《財(cái)富》雜志才披露。直到這家軟件巨頭賺取 920 億美元的利潤(rùn)后，微軟的份額將降至 49%。與此同時(shí)，其他風(fēng)險(xiǎn)投資者和 OpenAI 的員工也將有權(quán)獲得 OpenAI 49% 的利潤(rùn)，直到他們賺取約 1500 億美元。如果達(dá)到這些上限，微軟和投資者的股份將歸還給 OpenAI 的非營(yíng)利基金會(huì)。本質(zhì)上，OpenAI 是在把公司借給微軟，借多久取決于 OpenAI 賺錢的速度。但要收回投資可能需要相當(dāng)長(zhǎng)的時(shí)間，更不用說達(dá)到這些上限。《財(cái)富》雜志看到的文件顯示，OpenAI迄今為止的收入相對(duì)較少，而且虧損嚴(yán)重。文件顯示，去年該公司預(yù)計(jì)將帶來近 3000 萬美元的收入。但該公司預(yù)計(jì)計(jì)算和數(shù)據(jù)費(fèi)用支出為 4.1645 億美元，員工費(fèi)用為 8931 萬美元，其他未指明的運(yùn)營(yíng)費(fèi)用為 3875 萬美元。不包括員工股票期權(quán)在內(nèi)，其 2022 年的凈虧損總額預(yù)計(jì)為 5.445 億美元。而對(duì)于 ChatGPT，這些損失可能會(huì)飆升：Altman 在推特上說，在回答 Elon Musk 的問題時(shí)表示，OpenAI 在用戶與 ChatGPT 的每次交互中花費(fèi)的計(jì)算成本為“個(gè)位數(shù)美分”，隨著ChatGPT變得流行，每月的計(jì)算成本可能達(dá)到數(shù)百萬美元。

OpenAI 預(yù)計(jì)，隨著 ChatGPT 成為吸引誘客戶的警笛，其收入將迅速增加。文件顯示，該公司預(yù)計(jì)2023年的收入將達(dá)到 2 億美元，并預(yù)計(jì)到 2024 年收入將超過 10 億美元。他們沒有預(yù)測(cè) OpenAI 的開支會(huì)如何增長(zhǎng)以及何時(shí)可以盈利。這些公司拒絕對(duì)這些數(shù)字發(fā)表評(píng)論，但他們指出了一個(gè)明顯的現(xiàn)實(shí)：OpenAI 和微軟都認(rèn)為，這家曾經(jīng)的非營(yíng)利性實(shí)驗(yàn)室現(xiàn)在擁有可以出售的東西。

“10億美元”

★《財(cái)富》雜志獲得的文件顯示，ChatGPT 2024 年的預(yù)期收入高于 2023 年的 2 億美元和 2022 年的 3000萬美元。

微軟已經(jīng)從合作伙伴關(guān)系中獲益。它已經(jīng)在其 Azure 云中推出了一套 OpenAI 品牌的工具和服務(wù)，允許 Azure 客戶訪問 OpenAI 的技術(shù)，包括 GPT 和 DALL-E 工具。例如，汽車市場(chǎng)CarMax已經(jīng)推出了運(yùn)行在這些 Azure 工具上運(yùn)行的新服務(wù)。
微軟 AI 平臺(tái)公司副總裁 Eric Boyd 表示，滿足培訓(xùn)和運(yùn)行 OpenAI 的 LLM 的需求推動(dòng)了創(chuàng)新，使所有 Azure 客戶受益。例如，微軟已經(jīng)為人工智能構(gòu)建了它認(rèn)為是世界上最強(qiáng)大的超級(jí)計(jì)算集群，并創(chuàng)造了多項(xiàng)軟件創(chuàng)新，以便更容易的在這些機(jī)器上訓(xùn)練和運(yùn)行大型人工智能模型。微軟正逐漸將 OpenAI 的技術(shù)融入其大部分軟件中。它已經(jīng)在其搜索引擎 Bing 中發(fā)布了一個(gè)圖像生成器、以及一個(gè)新的 Designer 圖形設(shè)計(jì)工具，兩者均由 DALL-E 提供支持；其 Power Apps 軟件中支持 GPT-3 的工具，以及基于 OpenAI 的 Codex 模型的代碼建議工具 GitHub Copilot。Morningstar高級(jí)股票研究分析師Dan Romanoff 表示，即使OpenAI與Azure的合作不會(huì)立即對(duì) Azure 的收入產(chǎn)生影響，但它是一種很好的品牌定位和營(yíng)銷?！斑@是高調(diào)的，”他說?！澳軌?qū)?OpenAI 開發(fā)的 AI 解決方案放在 Azure 上，稱之為 Azure AI ：這讓他們保持競(jìng)爭(zhēng)力?！蔽④浀?a href="http://www.ttokpm.com/v/tag/475/" target="_blank">云計(jì)算競(jìng)爭(zhēng)對(duì)手，谷歌、AWS、IBM、甲骨文、Salesforce 和其他公司，都有自己的“認(rèn)知”服務(wù)，但與創(chuàng)建 ChatGPT 的人聯(lián)系在一起也無妨。對(duì)微軟來說，更大的收獲可能在于搜索業(yè)務(wù)?？萍汲霭嫖?The Information 最近報(bào)道，微軟計(jì)劃將 ChatGPT 集成到 Bing 中，可能允許它返回簡(jiǎn)單、簡(jiǎn)潔的查詢答案，并讓人們通過與該聊天機(jī)器人的對(duì)話而不是鏈接列表來更深入地研究。谷歌目前在搜索市場(chǎng)占據(jù)主導(dǎo)地位，全球市場(chǎng)份額超過 90%。

Bing 排在第二位，所占份額約為 3%。2022 年前九個(gè)月，谷歌的搜索收入為 1200 億美元；總的來說，它約占谷歌收入的 60%左右。ChatGPT 可能為微軟提供了唯一一次真正的機(jī)會(huì)，它必須將谷歌從神壇上推下來。（微軟拒絕對(duì) The Information 的報(bào)道發(fā)表評(píng)論。）并且按照微軟的標(biāo)準(zhǔn)，這些好處是很便宜的。其 130 億美元的總投資是一筆巨款，但僅占其過去 12 個(gè)月 850 億美元稅前利潤(rùn)的 15%，對(duì)于近期控制一項(xiàng)顛覆范式的技術(shù)而言，這是一筆相對(duì)便宜的投資。就 OpenAI 和 Altman 而言，他們可能會(huì)付出不同的代價(jià)：微軟的優(yōu)先級(jí)可能會(huì)擠占他們自己的優(yōu)先級(jí)，使他們更廣泛的使命面臨風(fēng)險(xiǎn)，并疏遠(yuǎn)推動(dòng)其成功的科學(xué)家。2015 年 7 月的一個(gè)晚上，時(shí)任著名創(chuàng)業(yè)孵化器 Y Combinator 負(fù)責(zé)人的Altman在 Rosewood Sand Hill 舉辦了一場(chǎng)私人晚宴，這是一家豪華的牧場(chǎng)風(fēng)格酒店，位于門洛帕克硅谷風(fēng)險(xiǎn)投資行業(yè)的中心， Elon Musk也在現(xiàn)場(chǎng)，布羅克曼也是如此，當(dāng)時(shí) 26 歲的他從麻省理工學(xué)院（MIT）輟學(xué)，曾擔(dān)任支付處理初創(chuàng)公司Stripe的首席技術(shù)官。一些與會(huì)者是經(jīng)驗(yàn)豐富的人工智能研究人員。有些人幾乎不懂機(jī)器學(xué)習(xí)，但他們都相信 AGI 是可行的。谷歌剛剛收購(gòu)了一家總部位于倫敦的神經(jīng)網(wǎng)絡(luò)初創(chuàng)公司DeepMind，在Altman、Elon Musk和其他科技業(yè)內(nèi)部人士看來，這是首家最有可能率先開發(fā) AGI 的公司：如果 DeepMind 成功了，谷歌可能會(huì)壟斷這項(xiàng)無所不能的技術(shù)。

Rosewood 晚宴的目的是討論組建一個(gè)競(jìng)爭(zhēng)實(shí)驗(yàn)室，以確保這種情況不會(huì)發(fā)生。新實(shí)驗(yàn)室旨在成為DeepMind 和谷歌無法做到的一切。它將作為一個(gè)非營(yíng)利組織運(yùn)營(yíng)，明確致力于使先進(jìn)人工智能的好處民主化。它承諾發(fā)布其研究成果，并開源其所有技術(shù)，其對(duì)透明度的承諾體現(xiàn)在其名稱中：OpenAI。該實(shí)驗(yàn)室獲得了一份令人印象深刻的捐助者名冊(cè)：不僅是Elon Musk，還有他在 PayPal 的同事蒂爾和霍夫曼；Altman和布羅克曼；Y Combinator 聯(lián)合創(chuàng)始人 Jessica Livingston；YC Research，Altman創(chuàng)立的基金會(huì)；印度 IT 外包公司 Infosys；和亞馬遜網(wǎng)頁(yè)服務(wù)。創(chuàng)始捐助者共同承諾向這個(gè)理想主義的新企業(yè)捐助 10 億美元（盡管根據(jù)稅務(wù)記錄，該非營(yíng)利組織只收到了引人注目的承諾的一小部分）。但訓(xùn)練巨型神經(jīng)網(wǎng)絡(luò)很快就被證明是昂貴的，計(jì)算成本高達(dá)數(shù)千萬美元。人工智能研究人員的薪水也不便宜，稅務(wù)記錄顯示，Ilya Sutskever 是一位出生于俄羅斯的科學(xué)家，在谷歌工作后來到 OpenAI成為其首席科學(xué)家，據(jù)稱，他在實(shí)驗(yàn)室的頭幾年，年薪為 190 萬美元。幾年后，Altman和 OpenAI 的其他人得出結(jié)論，為了與谷歌、Meta 和其他科技巨頭競(jìng)爭(zhēng)，實(shí)驗(yàn)室不能繼續(xù)作為非營(yíng)利組織。Altman在 2019 年對(duì)《連線》雜志表示：“我們要成功完成任務(wù)所需的資金比我最初想象的要多得多?！監(jiān)penAI成立了一個(gè)以盈利為目的的分支機(jī)構(gòu)，從而籌集到了風(fēng)險(xiǎn)資本。但 OpenAI 創(chuàng)造了一種不同尋常的結(jié)構(gòu)，將投資者的回報(bào)限制在其初始投資的數(shù)倍。OpenAI的非營(yíng)利性董事會(huì)由硅谷一線明星組成，將保留對(duì) OpenAI 知識(shí)產(chǎn)權(quán)的控制權(quán)（見邊欄）。一位沒有留下來的一線明星是Elon Musk：2018 年，他離開了董事會(huì)，理由是運(yùn)營(yíng)SpaceX和更重要的特斯拉。大約在這個(gè)時(shí)候，微軟首席執(zhí)行官Satya Nadella急切地想證明，他的公司被認(rèn)為在人工智能領(lǐng)域落后于其競(jìng)爭(zhēng)對(duì)手，能夠在技術(shù)的最前沿發(fā)揮作用。該公司曾嘗試聘請(qǐng)一位知名的 AI 科學(xué)家，但未能成功。它還在構(gòu)建一個(gè)龐大、昂貴的專用芯片集群，以推進(jìn)自己在語言模型方面的努力。這正是 OpenAI 需要的那種超級(jí)計(jì)算能力，而且它當(dāng)時(shí)花費(fèi)了大筆錢來購(gòu)買。就OpenAI本身而言，它擅長(zhǎng)完成Nadella希望展示微軟 AI 智慧的那種引人注目的 AI 演示。Altman 與Nadella 進(jìn)行了交易，多次飛往西雅圖向他展示 OpenAI 的 AI 模型。Nadella最終簽署了一項(xiàng)協(xié)議，于 2019 年 7 月宣布，使Microsoft OpenAI 成為其技術(shù)商業(yè)化的“首選合作伙伴”，并向這家人工智能初創(chuàng)公司最初投資10億美元。

雖然Altman從一開始就參與了 OpenAI，但他直到 2019 年5 月才成為 CEO，那是在 OpenAI 轉(zhuǎn)變?yōu)闋I(yíng)利性企業(yè)后不久。但它從研究實(shí)驗(yàn)室到價(jià)值數(shù)十億美元的現(xiàn)象的軌跡反映了Altman獨(dú)特的籌款能力和以產(chǎn)品為導(dǎo)向的重點(diǎn)，以及這些商業(yè)本能和他對(duì)科學(xué)驅(qū)動(dòng)的大想法的承諾之間的緊張關(guān)系。在某種程度上，這位OpenAI的領(lǐng)導(dǎo)者是硅谷的一幅漫畫：年輕、男性、蒼白；堅(jiān)定不移；精通Geek；癡迷于最大化效率和生產(chǎn)力；一個(gè)致力于“改變世界”的工作狂。（在2016年的紐約客簡(jiǎn)介中，他說他沒有阿斯伯格綜合癥，但可以理解為什么有人會(huì)認(rèn)為他有。）Altman 從斯坦福大學(xué)的計(jì)算機(jī)科學(xué)學(xué)位課程中退學(xué)，與他人共同創(chuàng)立了 Loopt，這是一家社交媒體公司，其應(yīng)用程序可以告訴您朋友在哪里。2005年該公司進(jìn)入Y Combinator的首批創(chuàng)業(yè)公司；Loopt 未能起飛，但 Altman 在出售時(shí)賺到的錢幫助他進(jìn)入了風(fēng)險(xiǎn)投資領(lǐng)域。他創(chuàng)辦了自己的小型風(fēng)險(xiǎn)投資公司Hydrazine Capital，籌集了約 2100 萬美元，其中包括來自蒂爾的資金。

然后，Y Combinator 的聯(lián)合創(chuàng)始人保羅·格雷厄姆 (Paul Graham) 和利文斯頓 (Livingston) 聘請(qǐng)他作為格雷厄姆的繼任者來管理 YC。Altman是一位企業(yè)家，而不是科學(xué)家或人工智能研究人員，他以異常擅長(zhǎng)籌集風(fēng)險(xiǎn)投資資金而聞名。他深信偉大的事業(yè)來自雄心壯志和堅(jiān)定不移的自信，他曾表示，他渴望通過所謂的深度科技領(lǐng)域創(chuàng)造數(shù)萬億美元的經(jīng)濟(jì)價(jià)值，比如核聚變和量子計(jì)算，這些領(lǐng)域的可能性很小，但潛在回報(bào)可能很大?！癝am 相信他在他所承擔(dān)的一切方面都是最棒的，”曾在 Loopt 與 Altman 共事的資深技術(shù)投資者和創(chuàng)業(yè)顧問Mark Jacobstein 表示，“我很確定，他相信自己是辦公室里最好的乒乓球運(yùn)動(dòng)員，直到他被證明是錯(cuò)誤的。”根據(jù)幾位現(xiàn)任和前任OpenAI 內(nèi)部人士的說法，隨著 Altman 上任，這家初創(chuàng)公司的優(yōu)先事項(xiàng)開始發(fā)生變化。曾經(jīng)廣泛的研究議程縮小到主要關(guān)注自然語言處理。Sutskever 和 Altman 為這種轉(zhuǎn)變辯護(hù)說，認(rèn)為這是在目前看來為 AGI 提供最有前途的道路的研究領(lǐng)域上最大限度地發(fā)揮作用。但一些前員工表示，在微軟進(jìn)行初始投資后，專注于 LLM 的內(nèi)部壓力大幅增加，部分原因是這些模型具有直接的商業(yè)應(yīng)用。

一些人抱怨說，OpenAI 的成立是為了不受公司影響，但它很快成為一家大型科技公司的工具。一位前員工說：“重點(diǎn)更多的是，我們?nèi)绾蝿?chuàng)造產(chǎn)品，而不是試圖回答最有趣的問題，”。與許多接受采訪的人一樣，該員工出于保密協(xié)議要求匿名，并避免疏遠(yuǎn)與 OpenAI 相關(guān)的權(quán)勢(shì)人物。OpenAI 也變得不那么開放了。由于擔(dān)心其技術(shù)可能被濫用，它已經(jīng)開始放棄發(fā)布所有研究成果和開源代碼的承諾。但據(jù)前員工稱，商業(yè)邏輯也發(fā)揮了作用。OpenAI的高級(jí)模型只能通過 API 提供，從而保護(hù)了其知識(shí)產(chǎn)權(quán)和收入來源?！癆ltman和Brockman 對(duì)‘AI安全’口頭上說了很多，但這通?？雌饋碇皇巧虡I(yè)問題的遮羞布，而實(shí)際的、合法的 AI 安全問題卻被置之不理，” 這位前雇員舉例說，OpenAI在Midjourney和Stability AI推出競(jìng)爭(zhēng)產(chǎn)品后，由于擔(dān)心濫用，迅速撤銷了限制訪問DALL-E 2的決定。（OpenAI 表示，在經(jīng)過仔細(xì)的 Beta 測(cè)試后，它才允許更廣泛地使用 DALL-E 2，因?yàn)樗鼘?duì)自己的安全系統(tǒng)有信心。）據(jù)一些前員工透露，這些戰(zhàn)略和文化的轉(zhuǎn)變，在十幾名OpenAI研究人員和其他員工(其中許多人從事人工智能安全工作)于2021年與公司決裂，成立自己的研究實(shí)驗(yàn)室Anthropic的決定中發(fā)揮了作用。OpenAI 表示，與其他人工智能實(shí)驗(yàn)室相比，它繼續(xù)發(fā)表更多的研究成果，它捍衛(wèi)其向產(chǎn)品重點(diǎn)的轉(zhuǎn)變。首席技術(shù)官 Murati 說：“你不能只呆在實(shí)驗(yàn)室里就可以構(gòu)建 AGI?！彼f，運(yùn)輸產(chǎn)品是發(fā)現(xiàn)人們想要如何使用和濫用技術(shù)的唯一途徑。她說，OpenAI 并不知道 GPT-3 最流行的應(yīng)用程序之一是編寫軟件代碼，直到他們看到人們用它編寫代碼。同樣，OpenAI 最擔(dān)心的是人們會(huì)使用 GPT-3 來制造政治虛假信息。

但事實(shí)證明，這種擔(dān)心是沒有根據(jù)的；相反，她說，最普遍的惡意使用是人們制造廣告垃圾郵件。最后，Murati 表示，OpenAI 希望將其技術(shù)推向世界，以“最大限度地減少真正強(qiáng)大的技術(shù)對(duì)社會(huì)的沖擊?！彼J(rèn)為，如果不讓人們知道未來可能會(huì)發(fā)生什么，先進(jìn)人工智能對(duì)社會(huì)的破壞將會(huì)更嚴(yán)重。Sutskever 承認(rèn) OpenAI 與微軟的關(guān)系創(chuàng)造了一種新的“期望，即我們確實(shí)需要用我們的技術(shù)制造出某種有用的產(chǎn)品”，但他堅(jiān)稱 OpenAI 文化的核心沒有改變。他說，訪問 Microsoft 數(shù)據(jù)中心對(duì) OpenAI 的進(jìn)步至關(guān)重要。布羅克曼還辯稱，這種合作關(guān)系讓 OpenAI 能夠產(chǎn)生收入，同時(shí)保持商業(yè)上的關(guān)注度低于它本來必須的?！肮陀脭?shù)千名銷售人員實(shí)際上可能會(huì)改變這家公司的現(xiàn)狀，而擁有一個(gè)已經(jīng)這樣做過的合作伙伴實(shí)際上是非常了不起的，”他說。

Sutskever 斷然否認(rèn) OpenAI 不再?gòu)?qiáng)調(diào)安全性的暗示：“我會(huì)說恰恰相反?！痹贏nthropic 分裂之前，AI的安全“局限于一個(gè)團(tuán)隊(duì)”，但現(xiàn)在是每個(gè)團(tuán)隊(duì)的責(zé)任，Sutskever 說。“安全標(biāo)準(zhǔn)不斷提高，我們正在進(jìn)行的安全工作量不斷增加。”

“我們正在進(jìn)行的安全工作量不斷增加。”

★ILYA SUTSKEVER，研究員，OPENAI

然而，批評(píng)者說，OpenAI 以產(chǎn)品為導(dǎo)向的高級(jí)人工智能方法是不負(fù)責(zé)任的，相當(dāng)于給人們上了膛的槍，理由是這是確定他們是否真的會(huì)互相射擊的最佳方式。紐約大學(xué)認(rèn)知科學(xué)名譽(yù)教授Gary Marcus對(duì)以深度學(xué)習(xí)為中心的 AI 方法持懷疑態(tài)度，他認(rèn)為生成式 AI 對(duì)“社會(huì)結(jié)構(gòu)構(gòu)成了真實(shí)而迫在眉睫的威脅”。他說，通過將制造虛假信息的成本降低到幾乎為零，像 GPT-3 和 ChatGPT 這樣的系統(tǒng)可能會(huì)引發(fā)一波虛假信息的浪潮。Marcus說我們甚至已經(jīng)看到了第一批受害者。Stack Overflow 是一個(gè)程序員提出和回答編程問題的網(wǎng)站，它已經(jīng)不得不禁止用戶提交由 ChatGPT 編寫的答案，因?yàn)樵摼W(wǎng)站被看似合理但錯(cuò)誤的答案淹沒了。與此同時(shí)，科技新聞網(wǎng)站 CNET 開始使用 ChatGPT 生成新聞文章，但后來發(fā)現(xiàn)許多文章由于事實(shí)不準(zhǔn)確而不得不更正。對(duì)于其他人來說，ChatGPT編寫準(zhǔn)確的代碼才是真正的風(fēng)險(xiǎn)。網(wǎng)絡(luò)安全公司 Check Point 的研究副總裁 Maya Horowitz 表示，她的團(tuán)隊(duì)能夠讓 ChatGPT 編寫網(wǎng)絡(luò)攻擊的每個(gè)階段，從編寫令人信服的網(wǎng)絡(luò)釣魚電子郵件到編寫惡意代碼再到規(guī)避常見的網(wǎng)絡(luò)安全檢查。ChatGPT 基本上可以讓零編碼技能的人成為網(wǎng)絡(luò)罪犯，她警告說：“我擔(dān)心會(huì)出現(xiàn)越來越多的攻擊?！監(jiān)penAI 的 Murati 表示，該公司也有同樣的擔(dān)憂，并且正在研究“調(diào)整”其 AI 模型的方法，這樣它們就不會(huì)編寫惡意軟件——但這并不是一件容易的事情。無數(shù)評(píng)論家和教育工作者譴責(zé)學(xué)生可以輕松地使用 ChatGPT 作弊。紐約市、巴爾的摩和洛杉磯的學(xué)區(qū)都阻止了學(xué)校管理的網(wǎng)絡(luò)訪問聊天機(jī)器人，澳大利亞的一些大學(xué)表示他們將恢復(fù)只使用監(jiān)考的筆試考試來評(píng)估學(xué)生。（OpenAI 正在研究使 AI 生成的文本更易于檢測(cè)的方法，包括可能向 ChatGPT 的輸出添加數(shù)字“水印”。）

2022 年ChatGPT 最初的組裝方式也存在倫理問題。《時(shí)代周刊》的一項(xiàng)調(diào)查發(fā)現(xiàn)，作為該過程的一部分，OpenAI 聘請(qǐng)了一家數(shù)據(jù)標(biāo)記公司，該公司使用肯尼亞的低薪工人來識(shí)別涉及有毒語言和圖形性暴力內(nèi)容的段落，其中一些工人報(bào)告說，這導(dǎo)致了心理健康問題。OpenAI 在一份聲明中告訴《時(shí)代周刊》，此類數(shù)據(jù)標(biāo)記是“最大限度地減少訓(xùn)練數(shù)據(jù)中包含的暴力和色情內(nèi)容的數(shù)量以及創(chuàng)建可以檢測(cè)有害內(nèi)容的工具的必要步驟?！?/p>

免費(fèi)提供 ChatGPT 讓 OpenAI 能夠收集大量反饋，以幫助改進(jìn)未來的版本。倫敦人工智能公司Faculty的創(chuàng)始人兼首席執(zhí)行官M(fèi)arc Warner說:“從歷史上看，我們傾向于看到這些非常通用的算法不足以讓一家特定的公司獲得所有的總體回報(bào)。”例如，人臉和圖像識(shí)別技術(shù)最初是由谷歌和英偉達(dá)等科技巨頭開發(fā)的，但現(xiàn)在已無處不在。

法院和監(jiān)管機(jī)構(gòu)還可以向生成人工智能所依賴的數(shù)據(jù)飛輪中設(shè)置監(jiān)管。在加利福尼亞州聯(lián)邦法院提起的一項(xiàng)價(jià)值 90 億美元的集體訴訟可能對(duì)該領(lǐng)域產(chǎn)生深遠(yuǎn)影響。該案的原告指責(zé)微軟和 OpenAI 未能對(duì)使用他們的代碼訓(xùn)練 GitHub 的編碼助手 Copilot 的編碼人員給予信用或補(bǔ)償，這違反了開放許可條款。微軟和 OpenAI 拒絕就此訴訟發(fā)表評(píng)論。人工智能專家表示，如果法院支持原告，它可能會(huì)破壞生成人工智能的繁榮：大多數(shù)生成模型都是在未經(jīng)許可或無償?shù)那闆r下從互聯(lián)網(wǎng)上收集的材料進(jìn)行訓(xùn)練的。代表這些原告的同一家律師事務(wù)所最近對(duì) Stability AI 和 Midjourney 提起了類似的訴訟，指控他們未經(jīng)許可在其訓(xùn)練數(shù)據(jù)中使用受版權(quán)保護(hù)的藝術(shù)作品。圖片機(jī)構(gòu) Getty Images 也對(duì) Stability AI 提起了自己的版權(quán)侵權(quán)訴訟。正如一些歐盟立法者正在考慮的那樣，如果立法者通過規(guī)定，給予創(chuàng)作者選擇不將其內(nèi)容用于人工智能培訓(xùn)的權(quán)利，則可能會(huì)出現(xiàn)另一個(gè)問題。與此同時(shí)，OpenAI 的競(jìng)爭(zhēng)對(duì)手并沒有停滯不前。據(jù)《紐約時(shí)報(bào)》報(bào)道，谷歌的高管們擔(dān)心失去在搜索領(lǐng)域的主導(dǎo)地位，因此發(fā)布了“紅色警報(bào)”。據(jù)該報(bào)報(bào)道，谷歌 CEO 桑達(dá)爾·皮查伊 (Sundar Pichai) 已召開會(huì)議重新定義公司的 AI 戰(zhàn)略，并計(jì)劃在年內(nèi)發(fā)布 20 款支持 AI 的新產(chǎn)品，并展示用于搜索的聊天界面。谷歌擁有自己強(qiáng)大的聊天機(jī)器人，稱為 LaMDA，但一直猶豫是否要發(fā)布它，因?yàn)閾?dān)心如果它最終被濫用會(huì)損害聲譽(yù)?，F(xiàn)在，該公司計(jì)劃根據(jù)ChatGPT“重新調(diào)整”其風(fēng)險(xiǎn)偏好，據(jù)該報(bào)報(bào)道，谷歌還在開發(fā)文本到圖像生成系統(tǒng)，以與 OpenAI 的 DALL-E 和其他系統(tǒng)競(jìng)爭(zhēng)。當(dāng)然，目前還不清楚聊天機(jī)器人是否會(huì)成為搜索的未來。ChatGPT 經(jīng)常發(fā)明信息，AI 研究人員稱之為“幻覺”的現(xiàn)象。它不能可靠地引用其來源或輕易地顯示鏈接。當(dāng)前版本無法訪問互聯(lián)網(wǎng)，因此無法提供最新信息。一些人，例如 Marcus，認(rèn)為幻覺和偏見是 LLM 的根本問題，需要從根本上重新考慮他們的設(shè)計(jì)?！斑@些系統(tǒng)預(yù)測(cè)句子中的單詞序列，就像類固醇的自動(dòng)補(bǔ)全一樣，”他說。“但他們實(shí)際上并沒有適當(dāng)?shù)臋C(jī)制來追蹤他們所說的話的真實(shí)性，甚至無法驗(yàn)證他們所說的話是否與他們自己的訓(xùn)練數(shù)據(jù)一致?！?/p>

“這些系統(tǒng)預(yù)測(cè)句子中的單詞序列，就像類固醇的自動(dòng)補(bǔ)全一樣。但他們實(shí)際上并沒有適當(dāng)?shù)臋C(jī)制來追蹤他們所說的話的真實(shí)性。”

★GARY MARCUS，紐約大學(xué)認(rèn)知科學(xué)名譽(yù)教授

包括 OpenAI 投資者 Hoffman 和 Vinod Khosla在內(nèi)的其他人則預(yù)測(cè)，這些問題將在一年內(nèi)得到解決。穆拉蒂更為謹(jǐn)慎?！暗侥壳盀橹?，我們一直在遵循一些研究方向，以解決事實(shí)的準(zhǔn)確性和模型的可靠性等問題。我們正在繼續(xù)努力，”她說。事實(shí)上，OpenAI 已經(jīng)發(fā)布了關(guān)于不同版本 GPT 的研究，稱為 WebGPT，它能夠通過查詢搜索引擎回答問題，然后總結(jié)它找到的信息，包括相關(guān)來源的腳注。盡管如此，WebGPT 并不完美：它傾向于接受用戶問題的前提并尋找確認(rèn)信息，即使前提是錯(cuò)誤的。例如，當(dāng)被問及希望某事是否可以實(shí)現(xiàn)時(shí)，WebGPT 回答說：“的確，你可以通過思想的力量實(shí)現(xiàn)愿望?！?/p>

在極少數(shù)情況下，Altman會(huì)在公共場(chǎng)合暢談人工智能，他自己聽起來就像一個(gè)一廂情愿的思想家。在舊金山 VC 活動(dòng)上被問及關(guān)于 AI 的最佳案例時(shí)，他滔滔不絕地說道，“我認(rèn)為最好的案例非常好，以至于難以想象……我認(rèn)為好的案例好到令人難以置信，以至于你談?wù)撍犉饋硐駛€(gè)瘋子在說話。”然后，他突然回到 OpenAI 根源上的反烏托邦主題：“我認(rèn)為最壞的情況是我們所有人都熄燈了。”