AI芯片飆升，AI軟件備受矚目

雖然科技行業(yè)繼續(xù)吹捧人工智能的“復(fù)興”，但人工智能芯片初創(chuàng)公司的數(shù)量已經(jīng)開始趨于平穩(wěn)。人工智能初創(chuàng)公司發(fā)現(xiàn)，數(shù)據(jù)中心曾經(jīng)是一個充滿希望的市場，但其進入壁壘很高——也許令人望而卻步。他們的問題可以追溯到谷歌、亞馬遜和 Facebook 等超大規(guī)模企業(yè)，他們現(xiàn)在正在開發(fā)自己的人工智能處理器和加速器，以滿足他們的特定需求。

需要明確的是，機器學(xué)習(xí) (ML) 繼續(xù)發(fā)展。更多的神經(jīng)網(wǎng)絡(luò)變體正在涌現(xiàn)。人工智能正在成為每個電子系統(tǒng)的固有特性。

Arteris 首席運營官 Laurent Moll 預(yù)測，在未來，“每個人的 SoC 中都有某種人工智能。” 這對 Arteris 來說是個好消息，因為它的業(yè)務(wù)是通過提供片上網(wǎng)絡(luò) (NoC) IP 和 IP 開發(fā)工具來幫助公司（無論大小，或新老）集成 SoC。

對于人工智能芯片初創(chuàng)公司？沒那么多。競爭越來越激烈，使破解適合特定 AI 設(shè)計的細分市場的挑戰(zhàn)變得更加復(fù)雜。

EE Times 將于下個月公布我們的“Silicon 100”（2021 版），這是一份新興電子和半導(dǎo)體初創(chuàng)公司的年度名單。該報告的作者 Peter Clarke 二十年來一直在密切關(guān)注半導(dǎo)體初創(chuàng)公司。他告訴我們，專注于 GPU 和 AI 的專業(yè)芯片初創(chuàng)公司的數(shù)量“與前一年相比持平”。他觀察到，“我們感覺到該行業(yè)可能已經(jīng)達到了‘人工智能高峰’的地步。”

簡而言之，人工智能芯片初創(chuàng)公司的沙拉時代可能已經(jīng)結(jié)束。

Tirias Research 的首席分析師 Kevin Krewell 預(yù)計會有更多的 AI 芯片初創(chuàng)公司被收購?！爱吘梗斯ぶ悄軉淤Y金的爆炸式增長發(fā)生在英特爾收購 Nervana 之后。風投和天使投資人看到了一種可能有利可圖的退出策略?！?他補充說，“今天有太多的 [AI] 初創(chuàng)公司超出了該行業(yè)的長期支持能力。我敢肯定，還會出現(xiàn)更多涉及模擬或光學(xué)的更奇特的解決方案。[但]最終，AI/ML 功能將被納入更大的 SoC 或小芯片設(shè)計中?！?/p>

洛朗摩爾

在這種背景下，EE Times最近與 Arteris 新任命的首席運營官進行了會談。曾擔任 Arteris 首席技術(shù)官的 Moll 在高通公司工作了七年多，最近擔任這家移動芯片巨頭的工程副總裁。

我們向 Moll 詢問了 AI 芯片領(lǐng)域的變化以及初創(chuàng)公司的發(fā)展方向。

淘金熱

不出所料，Moll 將行業(yè)對 AI 的沖刺描述為他所見過的“最大的淘金熱之一”。然而，這些后來的 49 人不再只是初創(chuàng)公司或小公司。探礦者包括“長期以來一直在制造硅片的公司，以及許多[以前]沒有制造過硅片的新人，”Moll 說。每個人都“在同一個舞臺上比賽”，每個人都在“努力解決問題”。

不斷增長的開發(fā)人員基礎(chǔ)和多樣化的應(yīng)用程序發(fā)揮了 Arteris 的優(yōu)勢，但它為 AI 芯片初創(chuàng)公司描繪了一幅截然不同的畫面。他們不再只與具有類似新想法的 AI 初創(chuàng)公司競爭。但現(xiàn)在他們也在對抗大男孩。超大規(guī)模生產(chǎn)商和汽車原始設(shè)備制造商正在大力發(fā)展人工智能，以便他們可以將自己的芯片用于他們的系統(tǒng)。

仍處于擴張階段

Arteris 的 Moll 觀察到，人工智能芯片市場“仍處于擴張階段”，“每個人都在探索”。盡管如此，他還是看到數(shù)據(jù)中心方面出現(xiàn)了“一點點秩序”。這主要是因為超大規(guī)模企業(yè)正在通過開發(fā)自己的人工智能處理器和加速器來控制自己的命運。

超大規(guī)模和其他 AI 芯片設(shè)計者之間的區(qū)別歸結(jié)為一個因素。“他們擁有數(shù)據(jù)集，”Moll 說。Hyperscaler 不與其他人共享數(shù)據(jù)集，但他們正在開發(fā)專有軟件堆棧?！岸宜麄冇X得他們可以創(chuàng)建芯片，更加優(yōu)化他們自己的數(shù)據(jù)訪問?！?/p>

與此同時，外部供應(yīng)商——較小的人工智能芯片初創(chuàng)公司——正在“開發(fā)構(gòu)建 SoC 的新方法、使用 SRAM 和 DRAM 的新方法、堆疊、使用光學(xué)器件，”Moll 說?！坝泻芏喾椒梢詣?chuàng)造出秘方，使他們能夠比現(xiàn)成的 AI 芯片做得更好。小個子正在改變游戲規(guī)則，他們非常聰明地以與眾不同的方式做事。”

相比之下，超大規(guī)模企業(yè)所追求的人工智能芯片就沒有那么創(chuàng)新了。Moll 觀察到，超大規(guī)模用戶可以負擔得起使用更傳統(tǒng)的方法。一個很好的例子是谷歌的 TPU?！叭绻憧此?，架構(gòu)很棒，但它不是革命性的——在很多方面?！?盡管如此，“它非常適合谷歌想要做的事情。所以，這符合他們的目的?！?/p>

如果小型 AI 初創(chuàng)公司的芯片如此新穎，他們不應(yīng)該鉆進超大規(guī)模的數(shù)據(jù)中心嗎？

“不，不，不，”莫爾說?！叭魏涡⌒推髽I(yè)都不太可能在數(shù)據(jù)中心市場擴張……或者超大規(guī)模企業(yè)購買他們的產(chǎn)品?！?然而，他指出，“一旦他們看到他們的技術(shù)有用并適用于他們想做的事情，他們肯定會購買其中一些初創(chuàng)公司?！?/p>

Moll 將超大規(guī)模的思路描述為：“我知道我的數(shù)據(jù)集是什么。我知道如何做一種更集中的架構(gòu)。如果有人有一個很好的想法，讓我們抓住這組人和IP，讓我們改進我們自己的產(chǎn)品?！?/p>

Tirias Research 的 Krewell 表示同意?！澳惚仨氉鲆恍@人的事情才能讓超標量承諾使用你的機器學(xué)習(xí)芯片?！?Krewell 說，例如，Cerebras憑借其晶圓大小的芯片突破了極限?！坝捎谄錈o處不在的軟件和可擴展性，Nvidia 仍然是 AI 開發(fā)工作的默認平臺?！?/p>

邊緣呢？

Moll 指出，對于 AI 芯片設(shè)計師來說，與數(shù)據(jù)中心相比，“邊緣是一個完全不同的故事”。邊緣的終端市場是多功能的，需要更廣泛的解決方案?！昂芏嗳巳栽谂宄谀睦飸?yīng)用人工智能，以及如何實施它，”Moll 說。

點擊查看完整大小的圖片

到 2025 年，19% 的半導(dǎo)體可用市場將與 AI/ML 相關(guān)。（來源：伯恩斯坦；思科；Gartner；IC Insights；IHS Markit；Machina Research；麥肯錫分析——由 Arteris 編譯）

Tirias Research 的 Krewell 對此表示贊同?！斑吘壢匀皇且粋€相對未開發(fā)的領(lǐng)域。仍有機會將 ML 添加到傳感器和邊緣設(shè)備。非常低功耗的模擬和內(nèi)存設(shè)備以及 MCU 和應(yīng)用處理器中的加速器具有前景。我看到邊緣處理器中 INT4 和 INT2 推理的巨大潛力——準確度高，功耗和內(nèi)存要求低得多?！?/p>

雖然多樣化的應(yīng)用程序聽起來令人興奮，但它存在陷入邊緣人工智能炒作周期的危險。

Edge AI 成為流行語并不是因為邊緣是一個新市場，也不是因為它代表任何特定的產(chǎn)品類別。相反，缺乏定義已經(jīng)將“優(yōu)勢”變成了初創(chuàng)公司可以將其產(chǎn)品與之關(guān)聯(lián)的包羅萬象的東西。

在廣泛的邊緣應(yīng)用中，Moll 看到了兩個不同的趨勢。他指出，一個是“芯片內(nèi)的人工智能，可以做其他事情”。“這就是爆炸的地方。”

他補充說，嵌入式系統(tǒng)市場是“外形尺寸、功率和散熱等因素真正重要的地方”。

另一端的另一個趨勢是“只做人工智能的巨大芯片”，Moll 指出。然而，邊緣大芯片的應(yīng)用仍在不斷發(fā)展。

“芯片內(nèi)的人工智能”最好的例子可能是智能手機的應(yīng)用處理器，Moll 很清楚這一點。人工智能加速器在語音識別和視覺處理中發(fā)揮了關(guān)鍵作用。如今，人工智能已成為手機銷售吸引力的重要組成部分。一個結(jié)果是“移動領(lǐng)域的老牌廠商（如高通）具有優(yōu)勢，”Moll 承認。

汽車中的人工智能

Moll 認為車輛中的人工智能是一個完全不同的故事。

他指出，將會有一系列解決方案，從重人工智能的計算機視覺芯片到完成所有繁重處理的大型人工智能芯片。隨著汽車從 ADAS 向自動駕駛發(fā)展，Moll 預(yù)計更大的 AI 處理器將在高端汽車市場發(fā)揮關(guān)鍵作用。

雖然汽車行業(yè)的老牌企業(yè)通常擁有自己的小型 AI 芯片，但在 ADAS 方面具有優(yōu)勢，但在擁有相當大的 AI 芯片的自動駕駛市場中，AI 芯片初創(chuàng)公司仍有充足的空間。

但這就是轉(zhuǎn)折點。

汽車原始設(shè)備制造商——模仿超大規(guī)模制造商——也在垂直化。特斯拉已經(jīng)設(shè)計了自己的芯片，稱為“全自動駕駛”計算機。幾周前，大眾汽車首席執(zhí)行官赫伯特·迪斯 (Herbert Diess) 告訴一家德國報紙，該公司計劃設(shè)計和開發(fā)自己的自動駕駛汽車高性能芯片以及所需的軟件。

Moll 證實，汽車制造商“都在非常仔細地看待這個問題”。盡管 Arteris 是一家 IP 公司，“我們接到汽車 OEM 的電話，因為他們想要了解整個堆棧，并且想要控制”即將到來并改變車輛架構(gòu)的“大堆硅片” .

Recogni、Blaize和Mythic等 AI 芯片初創(chuàng)公司將汽車列為他們瞄準的邊緣 AI 細分市場。汽車制造商最終將如何在車輛中實施此類芯片還有待觀察。

Krewell 強調(diào)：“汽車平臺仍在不斷發(fā)展。分布式功能具有模塊化和降低風險的優(yōu)勢，但其構(gòu)建和維護成本高于集中式處理綜合體?！?/p>

他補充說：“另一個問題是數(shù)據(jù)。傳感器將發(fā)送大量數(shù)據(jù)，邊緣智能會減少數(shù)據(jù)傳輸，但需要權(quán)衡傳感器延遲增加和機箱中更多分布式電源。傳感器上輕量級邊緣處理的某種平衡可以減少中央處理器的負載，而不會增加過多的延遲或需要過多的分布式電源?！?/p>

人工智能之戰(zhàn)從芯片轉(zhuǎn)向軟件

Krewell 觀察到，“我看到人工智能的重點從芯片轉(zhuǎn)移到軟件。部署 ML 功能需要好的軟件。為了讓更多嵌入式設(shè)計工程師和程序員能夠使用 ML，需要讓 ML 成為低代碼。它還需要為特定應(yīng)用程序自動創(chuàng)建自定義模型?！?/p>

摩爾也得出了類似的結(jié)論。當被問及為什么決定從高通回到 Arteris 時，他列舉了兩點。

首先，Arteris 曾經(jīng)在一個小眾市場中發(fā)揮作用——“IP 供應(yīng)商之間的狹隘地方”。但這個利基現(xiàn)在已成為“關(guān)鍵空間之一”，人工智能芯片設(shè)計人員在此尋求幫助，通過在芯片上構(gòu)建大量網(wǎng)絡(luò)來“組裝非常龐大和復(fù)雜的 SoC”。這就是 Arteris 的片上網(wǎng)絡(luò) (NOC) 可以進來以整體方式解決問題的地方。

其次，Arteris IP 去年收購了 Magillem。Moll 認為 Magillem 提供的“軟件層”是創(chuàng)建一個非常龐大和復(fù)雜的 SoC 的另一個關(guān)鍵。在高通負責提供頂級芯片的團隊后，“我開始認識到 Arteris 作為用戶而非營銷人員所提供的價值?！?/p>

審核編輯 黃昊宇