車馬先行,糧草呢?
據(jù)外泄的消息顯示,OpenAI CEO山姆·阿爾特曼上個月在倫敦與軟件開發(fā)者召開的閉門會議上表示,缺少專用計算機芯片打亂了公司的經(jīng)營計劃。
OpenAI的人工智能軟件必須使用專用計算機芯片,而芯片荒阻礙了該公司的業(yè)務(wù),并且除了ChatGPT以外,該公司并不打算發(fā)布面向消費者的產(chǎn)品。據(jù)報道,OpenAI聯(lián)合創(chuàng)始人兼首席執(zhí)行官山姆·阿爾特曼兩周前在倫敦與軟件開發(fā)者和初創(chuàng)公司CEO們召開了一次非公開會議。一位與會者的博客爆料稱,阿爾特曼在會上披露了許多信息,以上的信息只是其中的兩條。據(jù)稱此次會議約有20人參會。最初發(fā)表這篇博客的頁面顯示,應(yīng)OpenAI的要求,爆料此次閉門會議的賬號已經(jīng)關(guān)閉,但這并沒有阻止人工智能界深入分析這位有影響力的CEO的(所謂的)言論。
一個互聯(lián)網(wǎng)存檔網(wǎng)站已經(jīng)保存了一份原博客的副本,之后文章內(nèi)容在社交媒體和程序員聚集的多個論壇上廣泛傳播。人工智能專家拉扎·哈畢比在博客中寫道,阿爾特曼表示,OpenAI無法買到足夠多運行人工智能應(yīng)用需要使用的專用計算機芯片圖形處理單元(GPU),這阻礙了公司的短期計劃,也為使用OpenAI服務(wù)的開發(fā)者帶來了麻煩。哈畢比是Humanloop公司的聯(lián)合創(chuàng)始人兼CEO。哈畢比的初創(chuàng)公司位于倫敦,該公司率先提出了提高大語言模型訓(xùn)練效率的方法。大語言模型是OpenAI ChatGPT使用的基礎(chǔ)技術(shù)。
GPU荒導(dǎo)致OpenAI更難支持用戶通過大語言模型推送更多數(shù)據(jù),并延緩了公司發(fā)布更多功能和服務(wù)的計劃。該公司的ChatGPT等產(chǎn)品均以大語言模型作為核心。此外,博客中表示,芯片荒還降低了OpenAI現(xiàn)有服務(wù)的速度和可靠性,這會令客戶不滿,使他們不愿意基于OpenAI的技術(shù)開發(fā)企業(yè)應(yīng)用。OpenAI在生成式人工智能繁榮中的先行者優(yōu)勢,也會因為芯片供應(yīng)緊張而面臨威脅,因為谷歌(Google)和其他知名度較低的競爭對手都有能力推出競爭性服務(wù),而且開源競爭對手已經(jīng)進一步站穩(wěn)腳跟。
關(guān)于“語境窗口”
阿爾特曼列舉了OpenAI因為硬件(如芯片)短缺無法開展的多項業(yè)務(wù)。哈畢比在博客中寫道,其中包括向其GPT大語言模型的大多數(shù)客戶提供更長的“語境窗口”。語境窗口決定了在模型中輸入一條提示詞可以調(diào)用的數(shù)據(jù)數(shù)量,以及模型的響應(yīng)時間。大多數(shù)GPT-4用戶的語境窗口支持的標記數(shù)量為8,000個(一個標記是人工智能模型進行預(yù)測所依據(jù)的一段數(shù)據(jù),相當于約一個半英文單詞)。OpenAI在3月宣布為其模型的精選客戶提供支持32,000個標記的語境窗口,但很少有用戶能夠使用該功能,哈畢比的博客稱,阿爾特曼將此歸咎于GPU短缺。
全球大多數(shù)人工智能應(yīng)用在GPU上訓(xùn)練和運行。GPU作為一種計算機芯片,通過高速并行處理進行數(shù)據(jù)分析。大多數(shù)GPU芯片來自一家公司,那就是英偉達(Nvidia),而且售價可能高達數(shù)千甚至數(shù)十萬美元。市場觀察家已經(jīng)發(fā)現(xiàn),由于英偉達與生成式人工智能繁榮的關(guān)聯(lián),其股價暴漲,而且其市值最近突破了1萬億美元。
哈畢比在博客中爆料,OpenAI聯(lián)合創(chuàng)始人兼CEO還向開發(fā)者保證,除了ChatGPT以外,OpenAI沒有計劃發(fā)布任何面向消費者的產(chǎn)品。哈畢比稱,許多參會的開發(fā)者告訴阿爾特曼,他們對于使用OpenAI的人工智能模型進行開發(fā)感到擔(dān)心,因為無法確定OpenAI是否會發(fā)布競爭性產(chǎn)品。阿爾特曼表示,ChatGPT將是其唯一一款面向消費者的產(chǎn)品,而且公司的未來愿景是成為一款“超級智能的工作助手”,但OpenAI“不會涉足”許多需要使用GPT大語言模型的行業(yè)特定應(yīng)用。
阿爾特曼還表示,他一個月前所說的“超大規(guī)模模型的時代”將要結(jié)束的觀點被錯誤解讀。他對開發(fā)者表示,他想要表達的意思是,OpenAI最強大的大語言模型GPT-4的規(guī)模已經(jīng)足夠龐大,因此公司不可能繼續(xù)快速擴大人工智能系統(tǒng)的規(guī)模。他在倫敦會議上表示,OpenAI會繼續(xù)創(chuàng)建更大的模型,但它們的規(guī)模只會有GPT-4的兩倍或三倍,而不是擴大數(shù)百萬倍。
爆料稱,阿爾特曼在與開發(fā)者的對話中,還分享了OpenAI的近期發(fā)展規(guī)劃。哈畢比的博客稱,阿爾特曼表示,在2023年,OpenAI的目標是提高GPT-4的運行速度和降低其成本,提供更長的“語境窗口”以支持用戶向OpenAI的GPT模型中輸入更多數(shù)據(jù)并獲得更長的輸出結(jié)果,推出更方便客戶根據(jù)具體使用案例調(diào)整GPT-4的方法,并支持ChatGPT及其大語言模型能夠保留歷史對話記憶,從而使用戶想要繼續(xù)未完成的對話或重復(fù)與模型的互動時,不需要每次都要重復(fù)按照相同的順序輸入提示。
阿爾特曼表示,公司明年的工作重點是發(fā)布GPT-4根據(jù)輸入的圖片輸出結(jié)果的能力。OpenAI在3月發(fā)布該模型時演示了這項功能,但尚未向大多數(shù)客戶開放。
哈畢比寫道,在監(jiān)管方面,阿爾特曼對開發(fā)者表示,他并不認為現(xiàn)有模型帶來了任何嚴重的風(fēng)險,而且“對現(xiàn)有模型進行監(jiān)管或者禁用將是嚴重的錯誤”。阿爾特曼重申了他公開的立場,即OpenAI認同開源人工智能軟件的重要性,并證實了科技刊物《The Information》關(guān)于OpenAI正在將其某一款模型開源的報道。博客稱,阿爾特曼表示,公司可能將其GPT-3模型開源,但到目前為止之所以沒有這樣做,是因為阿爾特曼“懷疑有多少個人和公司有能力托管和服務(wù)”大語言模型。
據(jù)稱阿爾特曼在閉門會議上表示,OpenAI仍在分析OpenAI Plus的用戶希望如何使用這款插件。該插件支持大語言模型使用其他軟件。哈畢比在博客中表示,這可能意味著這款插件尚未達到產(chǎn)品與市場契合的程度,因此在短期內(nèi)不會通過OpenAI的API向企業(yè)客戶發(fā)布。
哈畢比和OpenAI并未立即回復(fù)置評請求。
哈畢比的博客在社交媒體和開發(fā)者論壇上引起了激烈討論。許多人表示,阿爾特曼的言論證明了GPU荒問題對于釋放大語言模型的商業(yè)潛力的重要性。也有人表示,這證明了來自開源人工智能社區(qū)的許多創(chuàng)新對于人工智能未來的重要性。開源社區(qū)開發(fā)的創(chuàng)新途徑,可以使用更少算力和更少數(shù)據(jù),實現(xiàn)與規(guī)模最大的專有人工智能模型類似的性能。
Signal基金會(Signal Foundation)的總裁、大型科技公司的主要批評者梅雷迪思·惠特克在柏林召開的一次會議上接受場邊采訪時表示,這篇博客表明,全球最大的科技公司扼制了當前人工智能軟件的基礎(chǔ),因為只有這些大公司有實力提供訓(xùn)練最大規(guī)模的人工智能模型所需要的計算資源和數(shù)據(jù)。她說到:“看得出來,盡管OpenAI能夠使用微軟(Microsoft)的基礎(chǔ)設(shè)施,但對其約束最大的因素是GPU?!彼岬降氖荗penAI與微軟的合作。到目前為止,微軟在來自舊金山的人工智能初創(chuàng)公司OpenAI投資了130億美元。 “你必須有超級昂貴的基礎(chǔ)設(shè)施才能這樣做。”她表示,人們不要誤以為開源人工智能社區(qū)存在,就代表“行業(yè)格局是真正民主化和競爭性的”。
-
GPU芯片
+關(guān)注
關(guān)注
1文章
303瀏覽量
5770 -
計算機芯片
+關(guān)注
關(guān)注
0文章
42瀏覽量
3492 -
OpenAI
+關(guān)注
關(guān)注
9文章
1033瀏覽量
6378 -
ChatGPT
+關(guān)注
關(guān)注
29文章
1546瀏覽量
7359
原文標題:OpenAI恐遭遇芯片荒
文章出處:【微信號:ICViews,微信公眾號:半導(dǎo)體產(chǎn)業(yè)縱橫】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論