加速邊緣設(shè)備中計算機視覺和語音的AI推理模型

隨著我們朝著創(chuàng)建更復(fù)雜、更高效的 AI 應(yīng)用程序的方向發(fā)展，加速 AI 推理模型已成為一項重要任務(wù)。靈活和完整的人工智能輔助是在快速增長的人工智能領(lǐng)域取得成功的關(guān)鍵組成部分。

RISC-V 被設(shè)計成模塊化的，有幾個基本的部分和可能的補充。ISA 基礎(chǔ)和擴展是工業(yè)界、學(xué)術(shù)界和研究界共同努力的結(jié)果。指令及其編碼、控制流、寄存器、內(nèi)存和尋址邏輯操作以及輔助都在基礎(chǔ)中指定。有了完整的軟件支持，包括一個通用編譯器，這個基礎(chǔ)就可以創(chuàng)建一個簡化的通用計算機。標(biāo)準(zhǔn)擴展旨在與所有標(biāo)準(zhǔn)基礎(chǔ)以及彼此一起運行，而不會引起任何沖突。

Deep Vision ARA-1 處理器圍繞完整的軟件工具套件構(gòu)建，是需要高計算、模型靈活性和能源經(jīng)濟性的邊緣應(yīng)用的明確選擇。該解決方案還旨在支持當(dāng)今最復(fù)雜和最具成本效益的邊緣人工智能應(yīng)用程序，同時消耗最少的電量。

RISC-V 計算的創(chuàng)始人和領(lǐng)導(dǎo)者SiFive最近宣布，邊緣 AI 處理器公司Deep Vision將把 SiFive RISC-V 處理器 IP 整合到其下一代推理加速器中，以在邊緣設(shè)備中實現(xiàn)更完整的計算機視覺和語音。 結(jié)合這兩項超高效服務(wù)，Deep Vision 將授權(quán) SiFive Intelligence X280 和 SiFive Essentia S7 處理器 IP，以提高其解決方案的靈活性和功能性，讓客戶能夠為智慧城市、智慧零售、汽車和其他行業(yè)創(chuàng)建應(yīng)用程序。

借助 SiFive Intelligence X280 處理器，Deep Vision 加速器現(xiàn)在能夠支持更廣泛的神經(jīng)網(wǎng)絡(luò)模型并包括浮點優(yōu)化。SiFive Intelligence 處理器上的 SiFive Intelligence Extensions 支持 TensorFlow Lite 和各種 AI/ML 數(shù)據(jù)格式，包括 BFLOAT16。

SiFive Intelligence X280 處理器作為應(yīng)用級 AI 處理器的靈活性和可編程性擴展了 Deep Vision 加速器的成熟功能和性能，以快速支持硬件中新的和不斷發(fā)展的 AI 推理模型，以及圖像縮放、顏色轉(zhuǎn)換等 AI 預(yù)處理任務(wù)， 和白噪聲減法。

與其他 SiFive RISC-V 處理器一起，SiFive Essential S7 處理器提供實時、確定性處理能力，以允許在異構(gòu)計算集群中執(zhí)行命令和控制應(yīng)用程序。SiFive Essential S7 處理器架構(gòu)具有更好的安全性和實時確定性，同時提供高效的每瓦性能，使其成為對延遲敏感的邊緣計算應(yīng)用程序的理想選擇。

將 SiFive Intelligence RISC-V 處理器的特性與 Deep Vision 推理加速器相結(jié)合，是為快速增長的 AI 處理器行業(yè)快速高效地制造新硬件的自然方式。SiFive Intelligence X280 中實施的 SiFive Intelligence Extensions 和 RISC-V Vectors 非常適合當(dāng)前 AI 應(yīng)用程序的需求。得益于 SiFive 行業(yè)領(lǐng)先的 RISC-V 處理器 IP 組合，SiFive 具有獨特的優(yōu)勢，可以有效地幫助 AI 公司構(gòu)建以市場為中心的系統(tǒng)。

此外，憑借一流的 11+ SPECint2k6/GHz 基準(zhǔn)測試結(jié)果，SiFive Performance P650 將其范圍擴展到了極高端領(lǐng)域，使其成為最高性能的可授權(quán) RISC-V 處理器。SiFive Performance P650 具有多達 16 個內(nèi)核的多核、多集群 CPU 配置和最近批準(zhǔn)的 Hypervisor 擴展，可提供可擴展的性能。隨著時間的推移，SiFive 計劃擴展其路線圖，以包括在單個 SoC 中支持 128 個或更多內(nèi)核的多集群功能。

RISC-V 加速當(dāng)前的 AI 推理模型

SiFive 將 RISC-V 處理器 IP 引入其下一代 AI 推理加速器，為邊緣設(shè)備中的計算機視覺和語音提供更快、更高效的計算能力。RISC-V 處理器的高靈活性和強大功能使客戶能夠以比傳統(tǒng)技術(shù)更簡單和更快的速度創(chuàng)建智能城市、智能零售和汽車等復(fù)雜的 AI 應(yīng)用程序。

審核編輯：郭婷