OpenAI重金押注的 “類腦” AI芯片，到底是什么？

OpenAI 的權(quán)力之爭(zhēng)才剛剛落幕，一場(chǎng)關(guān)鍵交易悄悄浮出了水面。

據(jù)外媒《連線》（Wired）報(bào)道，在 Sam Altman 擔(dān)任 OpenAI 的首席執(zhí)行官期間，OpenAI 與 Rain AI 簽訂了一份價(jià)值 5100 萬(wàn)美元的意向書(shū)，承諾會(huì)在 Rain AI 的芯片上市后購(gòu)買芯片。

Rain AI 是一家 AI 芯片初創(chuàng)公司，旨在大幅降低 AI 算力的成本。通過(guò)研發(fā)一種模仿人腦的工作方式的 AI 芯片——NPU，從而為 OpenAI 和 Anthropic 等 AI 公司提供「低成本、高能效的硬件」。

該公司稱，「相比傳統(tǒng)的 GPU，NPU 將為 AI 開(kāi)發(fā)者（如 OpenAI）提供潛在的 100 倍計(jì)算能力，并在訓(xùn)練方面提供 10，000 倍的能效?！?/p>

鑒于，OpenAI 一直受困于算力短缺，也就不難理解，它會(huì)愿意花費(fèi)大量資金，來(lái)確保自己的 AI 項(xiàng)目所需的芯片供應(yīng)。

Rain AI 研發(fā)的芯片有什么特點(diǎn)呢？該公司又是如何顯露頭角的？這筆投資揭示了 Altman 和 OpenAI 在芯片領(lǐng)域怎樣的布局？

“類腦”AI芯片

Rain AI 的核心產(chǎn)品是基于神經(jīng)擬態(tài)（Neuromorphic）技術(shù)的「類腦」AI 芯片——NPU。芯片旨在實(shí)現(xiàn)低耗、高效地處理信息，從而滿足 AI 任務(wù)的苛刻計(jì)算需求。

它模仿了人腦的結(jié)構(gòu)和功能，類似于大腦中的神經(jīng)連接，建立在了人工突觸相互連接的網(wǎng)絡(luò)上。這種架構(gòu)允許 NPU 以并行和分布式的方式處理信息，使其非常適合 AI 應(yīng)用中的「計(jì)算密集型任務(wù)」。

而且，Rain AI 率先采用了數(shù)字內(nèi)存計(jì)算（D-IMC）模式，進(jìn)一步提升了 AI 處理、數(shù)據(jù)移動(dòng)和數(shù)據(jù)存儲(chǔ)的效率。

此外，Rain 還為數(shù)字內(nèi)存計(jì)算磁貼和軟件棧，提供了知識(shí)產(chǎn)權(quán)（IP）許可機(jī)會(huì)，該 IP 是專門為要求超低延遲和高能效的設(shè)備上的 AI 工作負(fù)載而定制的，涵蓋了長(zhǎng)距離以太網(wǎng) （Long Reach Ethernet， LRE） 的一系列計(jì)算用例，包括智能汽車、智能手表等。

針對(duì)自家產(chǎn)品，Rain 打出的 solgan 是「重新定義 AI 計(jì)算的極限」，并宣傳「我們的 AI 加速器在速度、功耗、面積、精度和成本之間實(shí)現(xiàn)了創(chuàng)紀(jì)錄的平衡」。

鑒于，Rain 所設(shè)計(jì)的「類腦」芯片（NPU）承諾具有高效和低耗的運(yùn)行，這對(duì)于克服英偉達(dá)、AMD 等公司制造的重型芯片相關(guān)的「瓶頸」至關(guān)重要。

Rain AI 的創(chuàng)始者之一，Gordon Wilson 更是在 LinkedIn 上直言，「NPU 芯片將定義新的 AI 芯片市場(chǎng)，并大幅顛覆現(xiàn)有市場(chǎng)?！?/p>

不過(guò)，值得注意的是，盡管 Rain AI 號(hào)稱自己相比于英偉達(dá)的 GPU 有更好的能效，但Rain 的初始芯片，其實(shí)是基于谷歌、高通和其他科技公司支持的傳統(tǒng)的 RISC-V 開(kāi)源架構(gòu)，旨在用于遠(yuǎn)離數(shù)據(jù)中心的所謂邊緣設(shè)備，如手機(jī)、無(wú)人機(jī)、汽車和機(jī)器人等。

但是，當(dāng)前的大多數(shù)邊緣芯片設(shè)計(jì)，如智能手機(jī)采用的芯片，都專注于神經(jīng)網(wǎng)絡(luò)的推理階段。而 Rain 的目標(biāo)是提供一種芯片，既能用于模型和算法的訓(xùn)練，又能用于之后的推理運(yùn)行。

目前，Rain AI 已經(jīng)推出首個(gè) AI 平臺(tái)，可進(jìn)行 AI 推理和訓(xùn)練，還宣稱「類腦」芯片（NPU）將允許 AI 模型，根據(jù)周圍環(huán)境實(shí)時(shí)定制或微調(diào)。

對(duì)此，Sam Altman 還曾公開(kāi)表示，「這種神經(jīng)擬態(tài)方法能大幅降低 AI 開(kāi)發(fā)成本，并有望為實(shí)現(xiàn)真正的 AGI 提供幫助?！?/p>

據(jù)悉，OpenAI 希望利用這些芯片來(lái)降低數(shù)據(jù)中心的成本，并將自己的模型部署在手機(jī)和手表等設(shè)備中，那么「類腦」芯片（NPU）更是無(wú)疑對(duì) OpenAI 來(lái)說(shuō)有著巨大的吸引力，盡管如此，這些也都只是猜測(cè)。目前，OpenAI 將如何使用 Rain 芯片還是不得而知。

與 OpenAI 聯(lián)系緊密

Rain AI 成立于 2017 年，旨在為為未來(lái)的 AI 構(gòu)建「低成本」的計(jì)算平臺(tái)。

Rain AI 有三位聯(lián)合創(chuàng)始人，分別是 Jack Kendall、Gordon Wilson、Juan Claudio Nino，他們?cè)诜鹆_里達(dá)大學(xué)大學(xué)結(jié)識(shí)，此外，還聘請(qǐng)了 OpenAI 的軟件工程師 Scott Gray 擔(dān)任公司顧問(wèn)。

目前，Rain AI 約有 40 名員工，包括 AI 算法開(kāi)發(fā)和傳統(tǒng)芯片設(shè)計(jì)方面的專家。

有趣的是，Rain AI 的總部也位于舊金山，與 OpenAI 相距不到一英里。

公司成立的次年，Rain AI 就在種子輪融資中，獲得了 500 萬(wàn)美元的融資，投資者包括知名的創(chuàng)業(yè)孵化器 Y Combinator。

彼時(shí)，Altman 正在擔(dān)任 Y Combinator 的 CEO，同時(shí)還以個(gè)人名義向 Rain AI 投資了 100 萬(wàn)美元。一年后，OpenAI 通過(guò)了這份價(jià)值 5100 萬(wàn)美元的芯片購(gòu)買協(xié)約。

截至 2022 年 4 月，經(jīng)歷了由沙特阿拉伯附屬基金 Prosperity7 Ventures 領(lǐng)投的價(jià)值 2500 萬(wàn)美元的一輪融資，Rain 的總?cè)谫Y額達(dá)到 3300 萬(wàn)美元，估值也達(dá)到了 9000 萬(wàn)美元。

今年年初，該公司向潛在投資者「夸炫」其進(jìn)展，表示預(yù)計(jì)本月就可以推出「測(cè)試」芯片，這將意味著芯片設(shè)計(jì)已經(jīng)完成，可以開(kāi)始制造。

Rain AI 還表示最早于明年 10 月可向客戶提供第一批芯片，甚至向投資者強(qiáng)調(diào)，自己已經(jīng)與谷歌、甲骨文、Meta、微軟和亞馬遜等科技巨頭進(jìn)行了高級(jí)談判，以銷售系統(tǒng)給它們。但對(duì)此，微軟拒絕置評(píng)，其他公司沒(méi)有回應(yīng)置評(píng)請(qǐng)求。

簡(jiǎn)而言之，Rain AI 仍處于開(kāi)發(fā)階段，目前尚不清楚何時(shí)才能投入商用。盡管該公司的「類腦」芯片（NPU）技術(shù)前景廣闊，支持者也備受矚目，但它仍面臨著許多挑戰(zhàn)。

Open AI 的野心

不管 Altman 投資 Rain AI 這番舉動(dòng)有沒(méi)有私心在里頭，芯片短缺確實(shí)是 OpenAI 面臨的一大難題。

事實(shí)上，一年前，ChatGPT 剛剛發(fā)布不到一周，Altman 就感覺(jué)到計(jì)算成本「慘不忍睹」。之后，更是不止一次公開(kāi)抱怨 AI 芯片的「殘酷緊缺」和「令人瞠目」的成本。

今年 5 月份，Altman 更是無(wú)奈承認(rèn)，「OpenAI 正在經(jīng)歷嚴(yán)重的算力短缺，許多短期計(jì)劃都推遲了?！?/p>

眾所周知，OpenAI 利用其主要投資者微軟的強(qiáng)大云服務(wù)，但由于硬件限制，經(jīng)常關(guān)閉 ChatGPT 的某些功能。

對(duì)此，Altman 表示，「AI 的進(jìn)展速度可能取決于新的芯片設(shè)計(jì)和供應(yīng)鏈。」畢竟在當(dāng)下，算力就是一切。

事實(shí)上，Altman 本人很早之前就對(duì)芯片進(jìn)行了投資布局。除了 Rain AI，2021 年前后他還參與投資了 Cerabras，就是芯片像盤(pán)子一樣大，需要兩只手捧著的那家 AI 公司。

像盤(pán)子一樣大的芯片 | 圖片來(lái)源：Cerabras 官網(wǎng)

今年初「硅仙人」Jim Keller 與「硅神童」Sam Zeloof 成立的 Atomic Semi（通過(guò)簡(jiǎn)化和縮小半導(dǎo)體工廠和集成電路原型，快速制造價(jià)格合理的芯片），Altman 也有關(guān)注，OpenAI Startup Fund 還參與了投資。

此外，就在 Altman 被 OpenAI 解雇的前幾周，還有消息稱他正在試圖籌集數(shù)十億美元，創(chuàng)辦一個(gè)新的芯片公司。

項(xiàng)目的詳情還不得而知，只知道代號(hào)為「Tigris」，旨在與英偉達(dá)在 AI 芯片領(lǐng)域展開(kāi)競(jìng)爭(zhēng)。

據(jù)悉，為了「Tigris」項(xiàng)目，Altman 曾在中東籌集資金。地點(diǎn)的「巧合」，不禁讓人懷疑這個(gè)項(xiàng)目和 Rain 是否有什么關(guān)聯(lián)。

另外，Altman 還曾與包括芯片設(shè)計(jì)公司 Arm 在內(nèi)的半導(dǎo)體高管進(jìn)行過(guò)討論，商討如何盡早設(shè)計(jì)出新的芯片，為 OpenAI 這樣的大語(yǔ)言模型公司降低成本。

而且，不止 Altman，OpenAI 也正在尋找更低成本造大模型的可能，從而擺脫對(duì)英偉達(dá)的依賴。

除了尋找像 Rain AI 這樣的芯片供應(yīng)商，對(duì)外投資之外，OpenAI 前段時(shí)間也開(kāi)始嘗試自研芯片，評(píng)估潛在收購(gòu)目標(biāo)，并招聘硬件相關(guān)崗位。

圖片來(lái)源：OpenAI 官網(wǎng) 前不久，OpenAI 任命了前谷歌 TPU 的負(fù)責(zé)人，Richard Ho 為硬件主管，還聘請(qǐng)了不少編譯器和內(nèi)核方面的專家，并且正在招聘「數(shù)據(jù)中心設(shè)施設(shè)計(jì)專家」。

Richard Ho 將領(lǐng)導(dǎo) OpenAI 的新部門，并且?guī)椭鷥?yōu)化合作伙伴的，數(shù)據(jù)中心網(wǎng)絡(luò)、機(jī)架和建筑。

但這些前瞻性的投資布局，還是很難解決眼前的 GPU 短缺的問(wèn)題，目前，OpenAI 大規(guī)模使用的還是英偉達(dá)的芯片。

據(jù)觀察，OpenAI 正在動(dòng)態(tài)的調(diào)整 ChatGPT 等產(chǎn)品的能力來(lái)節(jié)省算力。這也就不難理解，有網(wǎng)友最近發(fā)現(xiàn) GPT-4 相比 GPT-3.5 更容易「偷懶」。

隨著大模型的出現(xiàn)，人們開(kāi)始關(guān)注大型 AI 模型數(shù)據(jù)中心的耗電情況。Rain 和其他一些芯片初創(chuàng)公司，旨在重新配置數(shù)據(jù)處理方式，從而減少傳輸需求，降低功耗。

谷歌、微軟、AMD、英特爾、亞馬遜，以及 Cerabras、Sambanova，Rain 等初創(chuàng)公司相繼入局 AI 芯片未來(lái)，AI 算力供應(yīng)的市場(chǎng)是否會(huì)有所變化？而 OpenAI 能否擺脫算力受制于人的局面？從芯片超長(zhǎng)的周期來(lái)看，這些難題還將繼續(xù)存在相當(dāng)長(zhǎng)的一段時(shí)間。