AI和HPC制造相當困難且昂貴 定制SoC的黃金時代即將來臨

定制的 AI 和 HPC 解決方案往往能提供強大的性能，但制造起來相當困難且昂貴。

如今的半導(dǎo)體行業(yè)可以觀察到一些趨勢。一方面，采用領(lǐng)先制造技術(shù)的片上系統(tǒng) (SoC) 的開發(fā)和生產(chǎn)變得越來越昂貴。另一方面，盡管成本較高，但越來越多的公司選擇設(shè)計自己的 SoC，以區(qū)別于競爭對手。這種趨勢并沒有讓 AMD、英特爾和高通等標準 CPU 和 SoC 供應(yīng)商受益。但這對于其他行業(yè)參與者非常有利，例如 EDA 軟件開發(fā)商、IP 公司、合同芯片設(shè)計人員，當然還有代工廠。

幾個全球大趨勢影響著微電子的發(fā)展。它們包括 5G 和邊緣計算（我們更愿意稱之為互聯(lián)設(shè)備的爆炸性增長）、自動駕駛和軟件定義車輛 (SDV)、人工智能、云計算和高性能計算( HPC)。

像AI，云和HPC這樣的應(yīng)用程序可以吞噬提供給它們的任何性能，它們的主要限制是數(shù)據(jù)中心的功率和空間，而不是硬件成本。

同時，自主 SDV和邊緣計算設(shè)備也可以利用更高的計算性能。但是，除了功率和空間之外，它們還受到成本的限制（例如，它們使用的芯片數(shù)量以及這些芯片的芯片尺寸）。

人工智能、汽車、云、邊緣計算和高性能計算是非常不同的應(yīng)用，它們可以通過廣泛使用的現(xiàn)成芯片來解決。但是，根據(jù)芯片要運行的工作負載精確定制芯片，可以從成本和功耗的角度更有效地實現(xiàn)所需的性能和功能水平。

“我們看到越來越多的公司意識到一刀切的方法不再滿足他們的計算需求，相反，他們正在探索定制 SoC 項目，以確保他們可以為正確的應(yīng)用程序使用正確的計算級別， ”Arm 基礎(chǔ)設(shè)施業(yè)務(wù)線產(chǎn)品解決方案副總裁 Dermot O'Driscoll 說道。

此外，IP 保護、提供差異化功能、設(shè)計靈活性和供應(yīng)壽命等考慮因素比以往任何時候都更加重要。這些因素促使許多公司（無論是老牌公司還是初創(chuàng)公司）開發(fā)內(nèi)部 SoC 或從芯片合同制造商處訂購。這些公司的數(shù)量正在增長。

Ansys 首席技術(shù)專家兼工程模擬和 EDA 軟件開發(fā)人員 Christophe Bianchi 表示：“設(shè)計自己芯片的公司數(shù)量肯定有所增加。這種向‘定制芯片’的轉(zhuǎn)變在北美更為明顯，但歐洲、中東和非洲和亞太地區(qū)也在追隨這一趨勢?！?/p>

英國合同芯片設(shè)計公司 Sondrel 的創(chuàng)始人兼首席執(zhí)行官 Graham Curren 表示：“擁有定制 SoC 意味著您擁有獨特的解決方案，其中融合了您特殊的差異化技術(shù)，并且很難復(fù)制?！边@是深深嵌入到芯片中的。此外，它是一個完美定制的解決方案，在功率、性能和面積方面完全符合任務(wù)規(guī)范。

蘋果公司就是一個很好的例子，它設(shè)計了自己的 SoC（首先為智能手機，然后為個人電腦），并獲得了巨大的收益。

該公司一開始要求三星在 2000 年代末將其一些定制 IP 實施到其 iPhone 的應(yīng)用處理器中，但隨后迅速建立了自己的芯片開發(fā)團隊，并開始設(shè)計具有定制 CPU 微架構(gòu)和加速器的高度復(fù)雜的移動 SoC。為其 iPhone、iPad 和 Apple TV 機頂盒等產(chǎn)品增加價值。最近，該公司開始為其 PC 構(gòu)建 SoC，再次整合各種定制 IP，以在要求苛刻的應(yīng)用中獲得更低的功耗、更長的電池壽命和更高的性能。

“設(shè)計定制 SoC 的幾個主要原因是附加專門的加速、實施獨特的系統(tǒng)和封裝拓撲以及通過垂直集成優(yōu)化成本，”O(jiān)'Driscoll 說。

蘋果從 M 系列 SoC 的努力中獲得了巨大收益：該公司在 PC 市場的份額從2019 年第一季度的 6.4%（出貨量 379.1 萬臺）增長到2022 年第一季度的 9.3%（銷量 732.4 萬臺）。蘋果2022 財年的研發(fā)支出為 262.51 億美元（高于2019 財年的162.17 億美元），其中很大一部分與芯片開發(fā)有關(guān)。

過去，芯片設(shè)計是 IBM和思科等擁有利潤豐厚產(chǎn)品的大公司的特權(quán)。隨后，蘋果向世界展示了消費電子 SoC 的用途，華為和三星等公司紛紛效仿。

到 2010 年代中期，互聯(lián)網(wǎng)巨頭變得如此龐大且盈利，以至于他們設(shè)計自己的芯片變得有意義。

如今，汽車制造商正在走蘋果的道路。

TechInsights 副主席丹·哈欽森 (Dan Hutchenson) 表示：“近年來，自行設(shè)計芯片的公司數(shù)量呈爆炸式增長。” “最初是 IBM、Amdahl、思科和Oracle加入了無晶圓廠/代工運動。隨后蘋果公司加入進來，移動應(yīng)用程序的發(fā)展勢頭開始升溫。到 2015 年，谷歌、Meta、亞馬遜、百度和特斯拉等所有超垂直行業(yè)都在設(shè)計自己的芯片。然后風(fēng)險投資家開始為人工智能和智能電力初創(chuàng)企業(yè)提供資金。從2021年開始，各大汽車制造商開始設(shè)計自己的芯片?！?/p>

超大規(guī)模企業(yè)處于領(lǐng)先地位

目前，蘋果是唯一一家設(shè)計自己的定制處理器的大型個人電腦制造商。鑒于 PC 制造商對 Windows 開發(fā)的控制力顯然不如蘋果對 MacOS 開發(fā)的控制力，他們不太愿意構(gòu)建自己的 SoC，因為他們的成功將取決于微軟的支持。

與 PC 制造商不同，超大規(guī)模企業(yè)對其硬件和軟件擁有幾乎絕對的控制權(quán)，這使得他們很有可能開發(fā)自己的定制 SoC。

“定制芯片的最初驅(qū)動力來自超大規(guī)模企業(yè)：人工智能計算和云性能需求都推動了這種增長?！北劝财嬲f。

谷歌運營著一些世界上最受歡迎的互聯(lián)網(wǎng)服務(wù)，并擁有多方面的定制數(shù)據(jù)中心芯片戰(zhàn)略，包括用于人工智能訓(xùn)練和推理加速的張量處理單元（TPU）、用于 YouTube 的視頻轉(zhuǎn)碼單元（VCU），甚至據(jù)報道還有服務(wù)器 SoC。谷歌傳聞中的服務(wù)器 SoC 是否會比 AMD 的 Epyc 或英特爾的 Xeon CPU 更適合該公司還有待觀察。

與此同時，該公司的 TPU 和 VCU 已經(jīng)帶來了谷歌擴展其人工智能和視頻服務(wù)所需的性能、可擴展性、功能和成本。

Cambrian-AI Research 創(chuàng)始人兼首席分析師 Karl Freund 表示：“成本和定制化促使這些公司開發(fā)自己的芯片?！彼硎?，他相信如今的 AI 工作負載是超大規(guī)模企業(yè)希望通過其解決方案解決的關(guān)鍵應(yīng)用之一。

EDA 工具和 IP 巨頭 Cadence 數(shù)字和簽核小組產(chǎn)品管理副總裁 Kam Kittrell 表示：“超大規(guī)模企業(yè)可以比大量購買芯片更便宜，從而省去中間環(huán)節(jié)?！?“通常，這些公司是自己的云的消費者，并且擁有有價值的專業(yè)軟件。他們可以制造在交付軟件工作負載時更加節(jié)能的特定硬件。”

亞馬遜網(wǎng)絡(luò)服務(wù) (AWS) 是全球領(lǐng)先的云服務(wù)提供商 (CSP) 之一，支持亞馬遜自己的在線商店和倉庫管理以及 Netflix 等服務(wù)，其芯片策略與 Google 不同。

為了向客戶提供足夠的計算性能和功能以及可預(yù)測的數(shù)據(jù)中心功耗，AWS 設(shè)計了自己的用于通用計算的服務(wù)器級 Graviton SoC。AWS 的 Graviton 現(xiàn)已發(fā)展到第三代。

“內(nèi)部生產(chǎn)芯片的公司數(shù)量顯著增加，特別是在超大規(guī)模領(lǐng)域，他們可以根據(jù)數(shù)據(jù)中心的工作負載獲得差異化，”Synopsys的營銷和戰(zhàn)略副總裁 John Koeter 表示。

AWS、百度、谷歌、Meta 和 Microsoft Azure 等公司運行著如此多不同的工作負載，因此將所有工作負載轉(zhuǎn)換為定制芯片以提高性能效率似乎只是時間問題。這些公司財力雄厚，有能力開發(fā)定制 SoC。

Alphawave Semi 營銷主管 Sudhir Mallya 表示：“我們看到最大的增長是在數(shù)據(jù)基礎(chǔ)設(shè)施領(lǐng)域，其中包括云、數(shù)據(jù)輸入、網(wǎng)絡(luò)、存儲和 5G 基礎(chǔ)設(shè)施?！?“當你今天看到它時，數(shù)據(jù)中心基礎(chǔ)設(shè)施的定制芯片的增長是驚人的。幾年前，當谷歌、微軟、AWS 和 Facebook (Meta) 等大型超大規(guī)模企業(yè)開始設(shè)計自己的芯片時，我們就看到了這一趨勢。”

人工智能和高性能計算：不同的方法

與此同時，有多家數(shù)據(jù)中心級 SoC 開發(fā)商通過其定制處理器、SoC 和多芯片系統(tǒng)級封裝專門針對 AI 和 HPC 應(yīng)用。Koeter 表示，這些定制的 AI 和 HPC 解決方案往往能提供強大的性能，但制造起來相當困難且昂貴，因為其中一些的芯片尺寸接近 EUV 光罩 (858 mm2)。

老牌廠商有很多針對人工智能和高性能計算的標準產(chǎn)品。AMD 通過其 Instinct 計算 GPU 和 EPYC 處理器（使用小芯片設(shè)計）解決 AI 和 HPC 工作負載。

英特爾擁有多方面的戰(zhàn)略，其中包括用于人工智能的單片 Habana 處理器、用于人工智能和 HPC 的多芯片數(shù)據(jù)中心 GPU Max，以及用于幾乎所有功能的多芯片第四代 Xeon 可擴展 CPU。

相比之下，Nvidia的最新 H100 產(chǎn)品采用了單片設(shè)計。所有這些都是現(xiàn)成的產(chǎn)品，具有自己的特點，來自擁有大量研發(fā)預(yù)算和人員的公司。

盡管如此，仍有許多新來者將在未來幾年挑戰(zhàn)行業(yè)巨頭。

審核編輯：劉清