如何選擇正確的AI？AI的類型有哪些？

Tensor Core GPU 掀起了一股生成式 AI 模型的淘金熱。無論是幫助學(xué)生完成數(shù)學(xué)作業(yè)、計劃假期，還是學(xué)習(xí)準(zhǔn)備六道菜的飯菜，生成式 AI 都準(zhǔn)備好了答案。但這只是人工智能的一個方面，并不是每個應(yīng)用程序都需要它。

人工智能——現(xiàn)在是一個包羅萬象的術(shù)語，指的是使用算法來學(xué)習(xí)、預(yù)測和做出決策的過程——模仿人類智能。它可以承擔(dān)諸如識別面孔和模式以及解釋解決問題的數(shù)據(jù)等工作。許多任務(wù)可以通過人工智能實現(xiàn)自動化，以提高生產(chǎn)力，并將對人腦來說過于復(fù)雜或需要太多手動工作的數(shù)據(jù)鏈接在一起。

但是，利用 AI 所需的計算能力差異很大，具體取決于應(yīng)用程序和 AI 的類型。3 級自動駕駛需要與使用 AI 監(jiān)控客戶流量的零售應(yīng)用程序截然不同的 AI。任務(wù)越復(fù)雜，結(jié)果越準(zhǔn)確，對 AI 計算能力的需求就越大，訓(xùn)練 AI 必須收集的數(shù)據(jù)就越多。

那么，開發(fā)人員應(yīng)該如何做出正確的 AI 選擇呢？“人工智能需要從數(shù)據(jù)中學(xué)習(xí)，”西門子EDA集成電路設(shè)計驗證AI/ML解決方案產(chǎn)品經(jīng)理Dan Yu說，“每個開發(fā)人員需要問的第一個問題是，‘我在哪里可以獲得數(shù)據(jù)來訓(xùn)練我的人工智能和機(jī)器學(xué)習(xí)模型？第三方數(shù)據(jù)可能可用，但您必須對其進(jìn)行驗證，以確保它是正確的數(shù)據(jù)，并且 AI/機(jī)器學(xué)習(xí)模型做出正確的預(yù)測。如果沒有數(shù)據(jù)，就沒有機(jī)器學(xué)習(xí)。

至少 70% 的 AI 訓(xùn)練時間用于查找正確的數(shù)據(jù)、清理數(shù)據(jù)以及從數(shù)據(jù)中提取有用的信息，這是很常見的。大部分余額都花在了微調(diào)人工智能和機(jī)器學(xué)習(xí)模型上。

“當(dāng)我們談?wù)撚?xùn)練、微調(diào)和將人工智能機(jī)器學(xué)習(xí)模型部署到應(yīng)用程序中時，許多自動駕駛領(lǐng)域的領(lǐng)導(dǎo)者都在努力尋找足夠有意義的數(shù)據(jù)，”Yu 說。“他們可能有辦法從行車記錄儀和傳感器（如汽車周圍的激光雷達(dá)）收集大量數(shù)據(jù)，但大多數(shù)數(shù)據(jù)在訓(xùn)練人工智能模型時沒有用。您希望模型能夠體驗所有難以想象的場景。例如，一棟建筑物剛剛倒塌在您的車輛前方。你的行動是什么？作為人類，我們知道我們想逃跑。它存在于人類基因中。但是，如果沒有遇到這種情況，它就不在AI基因中。如果你沒有數(shù)據(jù)來訓(xùn)練人工智能做某事，人工智能只會假設(shè)什么都沒發(fā)生，自動駕駛汽車就會繼續(xù)行駛。數(shù)據(jù)是無處不在的人工智能的關(guān)鍵部分。

人工智能的好處是有代價

的 人工智能在制造業(yè)、汽車、金融、醫(yī)療保健、教育、農(nóng)業(yè)、智慧城市、娛樂、國防、能源、零售和數(shù)據(jù)中心等領(lǐng)域的作用越來越大。人工智能芯片現(xiàn)在安裝在臺式機(jī)和筆記本電腦中。然而，人工智能為眾多行業(yè)帶來的所有好處都不是免費(fèi)的。

NVIDIA 的 Tensor Core GPU 的成本高達(dá) 40，000 美元，功耗高達(dá) 700W。對于科學(xué)和語言建模等高端應(yīng)用，需要高性能機(jī)器學(xué)習(xí)系統(tǒng)，例如 Cerebras 的機(jī)器學(xué)習(xí)系統(tǒng)。由2.2萬億個晶體管和6，850個AI優(yōu)化計算內(nèi)核組成的新的第二代晶圓級處理器（WSE-000）將耗資數(shù)百萬美元，并具有多個冗余4KW電源。

“每個人都在談?wù)撋墒饺斯ぶ悄芸梢詾槟阕龅囊磺校幸粋€隱藏的成本，”Ampere首席產(chǎn)品官Jeff Wittich說?！叭绻覀冎魂P(guān)心運(yùn)行最大性能，人工智能將很快成為世界第一大能源用戶。如今，數(shù)據(jù)中心產(chǎn)生的一氧化碳已占全球的 3% 左右2——不僅僅是航空和航運(yùn)。人工智能將需要更多倍的計算能力，而這很快就會失控。這可以比作擁有一輛賽車。當(dāng)然，它可以跑得非常快，但它需要大量的燃料。對于比賽來說，這沒關(guān)系。對于每個人來說，每天駕駛其中之一將是災(zāi)難性的。

優(yōu)化模型和提高計算利用率是關(guān)鍵。“如今，許多 AI 推理模型都在耗電的 GPU 上運(yùn)行，”Wittich 說?！斑@些 GPU 非常強(qiáng)大，可以快速運(yùn)行模型，但我們越來越多地看到它們的功能沒有得到充分利用。許多公司不需要一直使用所有電源，而 GPU 在閑置時仍在使用電源。

AI的類型

生成式 AI 和預(yù)測性 AI 是兩種截然不同的 AI。前者需要高性能和密集計算，而后者可以使用低成本的SoC來實現(xiàn)。

瑞薩電子高級總監(jiān)兼業(yè)務(wù)、加速和生態(tài)系統(tǒng)負(fù)責(zé)人Kaushal Vora表示：“當(dāng)今的AI用例大致可分為兩個領(lǐng)域——生成式AI和預(yù)測性AI。“生成式人工智能的主要目標(biāo)是生成新內(nèi)容，而預(yù)測性人工智能的目標(biāo)是分析數(shù)據(jù)以做出預(yù)測和業(yè)務(wù)決策。生成式 AI 利用基礎(chǔ)模型和轉(zhuǎn)換器來針對語言學(xué)、文本、圖像、視頻等領(lǐng)域的廣泛和大規(guī)模應(yīng)用。這些模型往往非常大，通常消耗數(shù)百 GB 的內(nèi)存，并且需要在云中以 GPU 和 CPU 的形式進(jìn)行超大規(guī)模計算來訓(xùn)練和運(yùn)行推理。

相比之下，預(yù)測性 AI 在資源受限的網(wǎng)絡(luò)層上運(yùn)行，例如網(wǎng)絡(luò)邊緣和物聯(lián)網(wǎng)端點。“這種類型的人工智能通常也被稱為邊緣人工智能或TinyML，”Vora說。“邊緣/端點的一些領(lǐng)域和用例正在迅速采用人工智能，包括語音作為人機(jī)通信、環(huán)境傳感和預(yù)測分析以及機(jī)器維護(hù)的用戶界面。我們看到廣泛的垂直行業(yè)采用。運(yùn)行這種AI的計算引擎通常是具有幾個GOPS（每秒千兆操作）的微控制器，或者是性能低于1 TOPS的微處理器。

與此同時，生成式 AI 正在推動服務(wù)器級別對極高 AI 性能的需求。Synopsys AI/ML 處理器產(chǎn)品經(jīng)理 Gordon Cooper 表示，該級別的關(guān)鍵性能指標(biāo) （KPI） 與性能有關(guān)，這意味著人們需要等待多長時間才能讓生成式 AI 給出答案，以及面積和功耗/熱成本?！拔ㄒ恍枰罅可墒饺斯ぶ悄埽?，000+ TOPS）的實時應(yīng)用是L3/L4自動駕駛。鑒于對生成式人工智能的興奮和炒作，關(guān)于如何最好地將這些功能轉(zhuǎn)移到邊緣設(shè)備，人們提出了許多問題。算法必須發(fā)展。像 ChatGPT 這樣的東西需要太多參數(shù)。實時人工智能的性能水平需要提高才能滿足需求。

選擇正確的 AI

在選擇正確的 AI設(shè)計時需要考慮許多因素，包括項目目標(biāo)、準(zhǔn)確性要求、靈活性、中央計算與邊緣計算以及設(shè)計權(quán)衡。

1） 項目目標(biāo)

選擇合適的 AI 取決于應(yīng)用程序要求。您需要生成式 AI 還是預(yù)測性 AI 就足夠了？復(fù)雜性、準(zhǔn)確性、延遲、安全性、隱私性和安全性要求是什么？因為人工智能不是免費(fèi)的，所以僅僅因為其他人都在做人工智能就包括人工智能是沒有意義的。遲早，人工智能的炒作會消失。

例如，在使用聊天機(jī)器人將客戶引導(dǎo)到正確部門的一般客戶服務(wù)應(yīng)用程序中，自然語言處理能力和流暢性很重要，但延遲和安全性并不是主要問題。幾秒鐘的延遲并不重要。相反，在自動駕駛中，準(zhǔn)確性、延遲、安全性和安全性都非常重要。制動時延遲幾秒鐘可能會導(dǎo)致碰撞。用于控制娛樂系統(tǒng)的車內(nèi)語音控制助手則是另一回事。故障可能會造成不便，但不會造成緊急情況。

同樣重要的是要記住，每個決定都會影響整體預(yù)算。

2）什么才足夠好？

一些開發(fā)人員傾向于不惜一切代價追求完美，或者至少想要高性能和準(zhǔn)確性。但對于許多 AI 應(yīng)用程序來說，達(dá)到 90% 的準(zhǔn)確率就足夠了。超過 95% 雖然可行，但成本可能非常高。因此，從最低要求開始。如果任務(wù)可以以 90% 的準(zhǔn)確率得到滿足，請到此為止。

3） 準(zhǔn)確性 在做出 AI 芯片設(shè)計決策時，需要考慮多種因素，例如準(zhǔn)確性、性能、移動性、靈活性和預(yù)算。

Synopsys戰(zhàn)略營銷經(jīng)理Ron Lowman認(rèn)為，兩個簡單的問題決定了將哪種AI芯片用于哪些應(yīng)用?！笆紫?，成功所需的最低精度是多少？其次，你能花多少錢來達(dá)到這個精度？人工智能只是一種新的生產(chǎn)力工具，隨著時間的推移，非常聰明的工程師和企業(yè)家將對其進(jìn)行迭代，以改進(jìn)大量流程，類似于電力驅(qū)動電機(jī)而不是手動曲柄。如果您需要高精度和合理的預(yù)算，NVIDIA 的產(chǎn)品是合理的選擇。但是，如果您可以接受低精度且預(yù)算較低，則可以選擇成本低得多的 AI 芯片或 AI 加速有限甚至沒有 AI 加速的傳統(tǒng) SoC。如果這些芯片需要移動且高效/低功耗，但預(yù)算較低，則可以接受更高效且精度較低的 SoC。如果你需要高精度和低功耗，這很昂貴，需要ASIC，或者你必須等到我們在新設(shè)計上迭代幾代人。

最昂貴的類別是具有大量 AI 加速的 SoC，可處理高度定制的壓縮算法。汽車需要高精度，并且需要移動和低功耗?！斑@意味著必須設(shè)計出比最高性能的 GPU/AI SoC 更高效的新 SoC，這需要大量投資。然后添加可靠性組件，“Lowman說。

人工智能設(shè)計標(biāo)準(zhǔn)中最重要的因素是準(zhǔn)確性。

“精度通常受到位分辨率和/或算法選擇的影響，”Cooper說?！笆褂棉D(zhuǎn)換器算法，其精度優(yōu)于CNN，需要支持最新架構(gòu)進(jìn)步的神經(jīng)網(wǎng)絡(luò)和足夠的位分辨率來實現(xiàn)精度 - 盡管在很大程度上依賴于算法。在準(zhǔn)確性之后，性能至關(guān)重要。如果你不能達(dá)到每秒可用的幀數(shù)，世界上所有的準(zhǔn)確性都無濟(jì)于事，即使它在很大程度上取決于用例。其他因素包括成本（通常與芯片面積有關(guān)）、功耗和開發(fā)工具的易用性。

4） 靈活性

對于需要靈活性和快速軟件升級的設(shè)計，可以考慮采用嵌入式 FPGA 方法。

Flex Logix 首席技術(shù)官 Cheng Wang 表示：“在實施 AI 時，無論是在芯片上還是在系統(tǒng)上，了解機(jī)器學(xué)習(xí)應(yīng)用程序不斷變化的工作負(fù)載需求都很重要。“你需要設(shè)計靈活性，因為人工智能領(lǐng)域的發(fā)展太快了。您的芯片設(shè)計周期為三到五年，并且需要立即進(jìn)行軟件升級。我們正在努力提高開發(fā)人員的意識。

集中式 AI 計算與邊緣 AI 計算 雖然云計算提供了需要強(qiáng)大計算

能力的 AI 解決方案，但許多其他實時應(yīng)用（如智慧城市、零售、增強(qiáng)現(xiàn)實和預(yù)防性維護(hù)）可能會從邊緣 AI 中受益。

但是，這取決于正在構(gòu)建的應(yīng)用程序類型以及必須在其中工作的資源邊界。

“傳統(tǒng)上，從人工智能的角度來看，我們有一個以云為中心的智能模型，”瑞薩電子的Vora說?！叭绻覀冋娴南朐诰W(wǎng)絡(luò)的極端邊緣和端點實現(xiàn)智能，就必須以一種高效、實時響應(yīng)和具有成本效益的方式完成?！?/p>

這意味著在端點內(nèi)的微型計算機(jī)上運(yùn)行獨(dú)立于云的推理引擎。

“去中心化的智能模型具有巨大的技術(shù)和經(jīng)濟(jì)效益，”Vora說?！白鳛樵O(shè)計師/架構(gòu)師/產(chǎn)品開發(fā)人員，在定義階段的早期考慮 AI/ML 并了解您必須使用哪些資源和系統(tǒng)約束至關(guān)重要。有多種軟件和硬件架構(gòu)可供選擇。在使用邊緣和端點應(yīng)用程序時，請尋找一個合作伙伴/供應(yīng)商，不僅提供芯片，還提供 AI/ML 工具、參考解決方案和軟件的整體生態(tài)系統(tǒng)。

AI/ML應(yīng)該在產(chǎn)品的定義階段考慮，因為硬件選擇主要由系統(tǒng)級需求和資源限制驅(qū)動。

大多數(shù)基于傳感器的應(yīng)用都可以使用植根于信號處理、數(shù)學(xué)和統(tǒng)計學(xué)的更簡單的經(jīng)典機(jī)器學(xué)習(xí)算法來解決。機(jī)器視覺和語音識別等更復(fù)雜的應(yīng)用需要深度學(xué)習(xí)方法。用例的復(fù)雜性將影響硬件選擇，包括在軟件中運(yùn)行 AI 的純 CPU、與神經(jīng)加速引擎相結(jié)合的 CPU、專用 AI SoC 和高性能 CPU/GPU。

展望未來：人工智能有兩條道路。一個提供非常高的性能，但會消耗大量能量。另一個則更注重能源效率和優(yōu)化。兩者都有市場需求。

預(yù)計軟件和硬件的新人工智能創(chuàng)新將繼續(xù)發(fā)展。許多新的解決方案來自科技巨頭和初創(chuàng)企業(yè)，包括 Axelera、SiMa.ai、Flex Logix、Quadric、Expedera、NeuReality、Kneron、Hailo.ai 等。以下是一些來自初創(chuàng)公司的例子。

根據(jù) MLCommons ML Perf 3.1 基準(zhǔn)測試中的封閉邊緣功率類別，為 ML 邊緣計算設(shè)計的“拖放式”無代碼可視化編程據(jù)說優(yōu)于該領(lǐng)域的一些當(dāng)前領(lǐng)導(dǎo)者。

另一個進(jìn)步是 AI 推理服務(wù)器架構(gòu)試圖取代傳統(tǒng)的以 CPU 為中心的多用途 AI 解決方案。運(yùn)行 ChatGPT 每天可能要花費(fèi)數(shù)百萬美元。運(yùn)營效率現(xiàn)在變得越來越重要。系統(tǒng)級解決方案可以優(yōu)化和擴(kuò)展 AI 工作流程，以降低網(wǎng)絡(luò)連接處理單元的整體運(yùn)營成本。新的以人工智能為中心的方法更加基于硬件，可以更快地執(zhí)行指令處理。

圖 1：基于硬件的以 AI 為中心的架構(gòu)依賴于網(wǎng)絡(luò)連接的處理單元來執(zhí)行大部分 AI 工作流。來源：NeuReality

最后，雖然 GPU 在 AI 應(yīng)用中受到廣泛關(guān)注，但在軟件更新方面，嵌入式 FPGA 功耗更低、可擴(kuò)展性更強(qiáng)且更靈活。這很重要，因為 AI 算法變化非?？?，無論是為了提高性能和兼容性，還是出于安全原因。

結(jié)論

人工智能創(chuàng)新將繼續(xù)加速。從長遠(yuǎn)來看，人工智能開發(fā)將更強(qiáng)大、更節(jié)能、更低成本，為開發(fā)者提供更多的人工智能選擇