亞馬遜，大力發(fā)展芯片

德克薩斯州奧斯汀市一棟沒有標(biāo)記的辦公樓里，兩個小房間里放著一些亞馬遜產(chǎn)品員工設(shè)計兩種類型的微芯片來訓(xùn)練和加速生成人工智能。這些定制芯片 Inferentia 和 Trainium 為 AWS 客戶提供了在Nvidia上訓(xùn)練大型語言模型的替代方案，因為GPU 的采購變得越來越困難且昂貴。

亞馬遜網(wǎng)絡(luò)服務(wù)首席執(zhí)行官 Adam Selipsky在 6 月份接受 CNBC 采訪時表示：“全世界都希望有更多芯片用于生成人工智能，無論是 GPU 還是我們正在設(shè)計的亞馬遜自己的芯片?！?“我認(rèn)為我們比地球上任何其他人都更有能力提供我們的客戶共同需要的容量?！?/p>

然而，其他公司則采取了更快的行動，投入了更多資金，以從生成式人工智能熱潮中獲取業(yè)務(wù)。當(dāng)OpenAI 在 11 月推出 ChatGPT時，微軟

因托管病毒式聊天機(jī)器人以及據(jù)報道向 OpenAI 投資 130 億美元而受到廣泛關(guān)注。該公司很快將生成式人工智能模型添加到自己的產(chǎn)品中，并于二月份將其合并到 Bing 中。

同月，谷歌推出了自己的大型語言模型 Bard，隨后向OpenAI 競爭對手 Anthropic 投資了 3 億美元。

直到四月份，亞馬遜才宣布推出自己的大型語言模型系列（名為 Titan），以及一項名為 Bedrock 的服務(wù)，以幫助開發(fā)人員使用生成式人工智能增強(qiáng)軟件。

“亞馬遜不習(xí)慣于追逐市場。亞馬遜習(xí)慣于創(chuàng)造市場。我認(rèn)為，很長一段時間以來，他們第一次發(fā)現(xiàn)自己處于不利地位，并且正在努力追趕，”Gartner 副總裁分析師Chirag Dekate 說。

Meta近還發(fā)布了自己的大模型Llama 2。開源的 ChatGPT 競爭對手現(xiàn)在可供人們在微軟的 Azure 公共云上進(jìn)行測試。

芯片是“真正的差異化”

Dekate 表示，從長遠(yuǎn)來看，亞馬遜的定制芯片可以使其在生成人工智能領(lǐng)域占據(jù)優(yōu)勢。

“我認(rèn)為真正的差異化在于他們所發(fā)揮的技術(shù)能力，”他說?！澳悴略趺粗?？微軟沒有 Trainium 或 Inferentia，”他說。

AWS 早在 2013 年就悄悄開始生產(chǎn)定制芯片，使用一種名為 Nitro 的專用硬件。它現(xiàn)在是銷量最高的 AWS 芯片。亞馬遜告訴 CNBC，每臺 AWS 服務(wù)器都至少有一片，使用中的服務(wù)器總數(shù)超過 2000 萬臺。

2015年，亞馬遜收購了以色列芯片初創(chuàng)公司Annapurna Labs。然后在 2018 年，亞馬遜推出了基于 Arm 的服務(wù)器芯片 Graviton ，這是AMD和英特爾等巨 x86 CPU 巨頭的競爭對手。

“Arm 可能占服務(wù)器總銷售額的個位數(shù)甚至 10%，其中很大一部分將來自亞馬遜。因此，在 CPU 方面，他們做得相當(dāng)好。”伯恩斯坦研究。

同樣是在 2018 年，亞馬遜推出了專注于 AI 的芯片。兩年前，谷歌宣布推出首款張量處理器單元（TPU）。微軟尚未宣布其正在開發(fā)的 Athena AI 芯片，據(jù)報道該芯片與 AMD 合作。

CNBC 參觀了亞馬遜位于德克薩斯州奧斯汀的芯片實驗室，Trainium 和 Inferentia 就是在這里開發(fā)和測試的。產(chǎn)品副總裁 Matt Wood 解釋了這兩種芯片的用途。

“機(jī)器學(xué)習(xí)分為這兩個不同的階段。因此，你訓(xùn)練機(jī)器學(xué)習(xí)模型，然后對這些經(jīng)過訓(xùn)練的模型進(jìn)行推理，”伍德說?！跋鄬τ谠?AWS 上訓(xùn)練機(jī)器學(xué)習(xí)模型的任何其他方式，Trainium 的性價比提高了約 50%。”

繼 2019 年發(fā)布 Inferentia（目前已是第二代）之后，Trainium 于 2021 年首次上市。

Inferentia 允許客戶“提供非常非常低成本、高吞吐量、低延遲的機(jī)器學(xué)習(xí)推理，這是當(dāng)您在生成人工智能模型中輸入提示時的所有預(yù)測，所有這些都將被處理到給你回應(yīng)，”伍德說。

然而，就目前而言，在訓(xùn)練模型方面，Nvidia 的 GPU 仍然是王者。7 月，AWS推出了由 Nvidia H100 支持的新型 AI 加速硬件。

Rasgon 表示：“Nvidia 芯片擁有一個龐大的軟件生態(tài)系統(tǒng)，在過去 15 年里，圍繞它們建立起來的軟件生態(tài)系統(tǒng)是其他公司所沒有的?！?“目前人工智能的最大贏家是英偉達(dá)?！?/p>

利用云優(yōu)勢

然而，AWS 的云主導(dǎo)地位是亞馬遜的一大差異化因素。

“亞馬遜不需要贏得頭條新聞。亞馬遜已經(jīng)擁有非常強(qiáng)大的云安裝基礎(chǔ)。他們所需要做的就是弄清楚如何讓現(xiàn)有客戶能夠利用生成式人工智能擴(kuò)展到價值創(chuàng)造活動，”德凱特說。

當(dāng)在亞馬遜、谷歌和微軟之間選擇生成式人工智能時，數(shù)以百萬計的 AWS 客戶可能會被亞馬遜吸引，因為他們已經(jīng)熟悉亞馬遜，運行其他應(yīng)用程序并在那里存儲數(shù)據(jù)。

“這是一個速度問題。這些公司能夠以多快的速度開發(fā)這些生成式 AI 應(yīng)用程序，這取決于首先從 AWS 中擁有的數(shù)據(jù)開始，并使用我們提供的計算和機(jī)器學(xué)習(xí)工具，”AWS 技術(shù)副總裁Mai-Lan Tomsen Bukovec 解釋道 。

根據(jù)科技行業(yè)研究機(jī)構(gòu)Gartner的數(shù)據(jù)，AWS 是全球最大的云計算提供商，到 2022 年將占據(jù) 40% 的市場份額。盡管營業(yè)收入連續(xù)三個季度同比下降，但AWS第二季度仍占亞馬遜整體77億美元營業(yè)利潤的70 %。AWS 的運營利潤率歷來遠(yuǎn)高于谷歌云。

AWS 還擁有不斷增長的專注于生成式 AI 的開發(fā)人員工具組合。

“讓我們把時間倒回到 ChatGPT 之前。這并不像那件事發(fā)生之后，我們突然匆忙制定了一個計劃，因為你不可能在那么快的時間內(nèi)設(shè)計出芯片，更不用說你無法在大約 2 到 3 個月的時間?！盇WS 數(shù)據(jù)庫、分析和機(jī)器學(xué)習(xí)副總裁 Swami Sivasubramanian 說道。

Bedrock 使 AWS 客戶能夠訪問由Anthropic、Stability AI、AI21 Labs 和亞馬遜自己的 Titan 制作的大型語言模型。

“我們不相信一種模型會統(tǒng)治世界，我們希望我們的客戶能夠擁有來自多個提供商的最先進(jìn)的模型，因為他們會為正確的工作選擇正確的工具，”西瓦蘇布拉馬尼安說道。