邊緣設(shè)備中計(jì)算機(jī)視覺(jué)和語(yǔ)音的AI推理加速器應(yīng)用

隨著我們朝著創(chuàng)建更復(fù)雜、更高效的 AI 應(yīng)用程序的方向發(fā)展，加速 AI 推理模型已成為一項(xiàng)重要任務(wù)。靈活和完整的人工智能輔助是在快速增長(zhǎng)的人工智能領(lǐng)域取得成功的關(guān)鍵組成部分。

RISC-V 被設(shè)計(jì)成模塊化的，有幾個(gè)基本的部分和可能的補(bǔ)充。ISA 基礎(chǔ)和擴(kuò)展是工業(yè)界、學(xué)術(shù)界和研究界共同努力的結(jié)果。指令及其編碼、控制流、寄存器、內(nèi)存和尋址邏輯操作以及輔助都在基礎(chǔ)中指定。有了完整的軟件支持，包括一個(gè)通用編譯器，這個(gè)基礎(chǔ)就可以創(chuàng)建一個(gè)簡(jiǎn)化的通用計(jì)算機(jī)。標(biāo)準(zhǔn)擴(kuò)展旨在與所有標(biāo)準(zhǔn)基礎(chǔ)以及彼此一起運(yùn)行，而不會(huì)引起任何沖突。

Deep Vision ARA-1 處理器圍繞完整的軟件工具套件構(gòu)建，是需要高計(jì)算、模型靈活性和能源經(jīng)濟(jì)性的邊緣應(yīng)用的明確選擇。該解決方案還旨在支持當(dāng)今最復(fù)雜和最具成本效益的邊緣人工智能應(yīng)用程序，同時(shí)消耗最少的電量。

RISC-V 計(jì)算的創(chuàng)始人和領(lǐng)導(dǎo)者SiFive最近宣布，邊緣 AI 處理器公司Deep Vision將把 SiFive RISC-V 處理器 IP 整合到其下一代推理加速器中，以在邊緣設(shè)備中實(shí)現(xiàn)更完整的計(jì)算機(jī)視覺(jué)和語(yǔ)音。 結(jié)合這兩項(xiàng)超高效服務(wù)，Deep Vision 將授權(quán) SiFive Intelligence X280 和 SiFive Essentia S7 處理器 IP，以提高其解決方案的靈活性和功能性，使客戶能夠?yàn)橹腔鄢鞘小⒅腔哿闶邸⑵嚭推渌袠I(yè)創(chuàng)建應(yīng)用程序。

借助 SiFive Intelligence X280 處理器，Deep Vision 加速器現(xiàn)在能夠支持更廣泛的神經(jīng)網(wǎng)絡(luò)模型并包括浮點(diǎn)優(yōu)化。SiFive Intelligence 處理器上的 SiFive Intelligence Extensions 支持 TensorFlow Lite 和各種 AI/ML 數(shù)據(jù)格式，包括 BFLOAT16。

SiFive Intelligence X280 處理器作為應(yīng)用級(jí) AI 處理器的靈活性和可編程性擴(kuò)展了 Deep Vision 加速器的成熟功能和性能，以快速支持硬件中新的和不斷發(fā)展的 AI 推理模型，以及圖像縮放、顏色轉(zhuǎn)換等 AI 預(yù)處理任務(wù)， 和白噪聲減法。

與其他 SiFive RISC-V 處理器一起，SiFive Essential S7 處理器提供實(shí)時(shí)、確定性處理能力，以允許在異構(gòu)計(jì)算集群中執(zhí)行命令和控制應(yīng)用程序。SiFive Essential S7 處理器架構(gòu)具有更好的安全性和實(shí)時(shí)確定性，同時(shí)提供高效的每瓦性能，使其成為對(duì)延遲敏感的邊緣計(jì)算應(yīng)用程序的理想選擇。

將 SiFive Intelligence RISC-V 處理器的特性與 Deep Vision 推理加速器相結(jié)合，是為快速增長(zhǎng)的 AI 處理器行業(yè)快速高效地制造新硬件的自然方式。SiFive Intelligence X280 中實(shí)施的 SiFive Intelligence Extensions 和 RISC-V Vectors 非常適合當(dāng)前 AI 應(yīng)用程序的需求。得益于 SiFive 行業(yè)領(lǐng)先的 RISC-V 處理器 IP 組合，SiFive 具有獨(dú)特的優(yōu)勢(shì)，可以有效地幫助 AI 公司構(gòu)建以市場(chǎng)為中心的系統(tǒng)。

此外，憑借一流的 11+ SPECint2k6/GHz 基準(zhǔn)測(cè)試結(jié)果，SiFive Performance P650 將其范圍擴(kuò)展到了極高端領(lǐng)域，使其成為最高性能的可授權(quán) RISC-V 處理器。SiFive Performance P650 具有多達(dá) 16 個(gè)內(nèi)核的多核、多集群 CPU 配置和最近批準(zhǔn)的 Hypervisor 擴(kuò)展，可提供可擴(kuò)展的性能。隨著時(shí)間的推移，SiFive 計(jì)劃擴(kuò)展其路線圖，以包括在單個(gè) SoC 中支持 128 個(gè)或更多內(nèi)核的多集群功能。

RISC-V 加速當(dāng)前的 AI 推理模型

SiFive 將 RISC-V 處理器 IP 引入其下一代 AI 推理加速器，為邊緣設(shè)備中的計(jì)算機(jī)視覺(jué)和語(yǔ)音提供更快、更高效的計(jì)算能力。RISC-V 處理器的高靈活性和強(qiáng)大功能使客戶能夠以比傳統(tǒng)技術(shù)更簡(jiǎn)單和更快的速度創(chuàng)建智能城市、智能零售和汽車等復(fù)雜的 AI 應(yīng)用程序。

審核編輯：郭婷