ONNX Runtime支持龍架構(gòu)，AI推理生態(tài)再添新翼
近日，備受矚目的AI推理框架開源社區(qū)ONNX Runtime宣布推出支持龍架構(gòu)的新版本1.17.0，這一里程碑式的更新意味著龍芯平臺上的AI推理應用開發(fā)與部署將更加便捷。
ONNX Runtime（ORT）作為近年來興起的AI推理框架軟件，已逐漸成為眾多AI應用的首選基礎推理引擎。此次更新不僅豐富了ORT的算力后端支持，更在軟件生態(tài)層面為龍架構(gòu)注入了新的活力。新版本將支持PyTorch、Tensorflow、TFLite等多種模型格式輸入，覆蓋CPU、GPU、IoT、NPU、FPGA等多樣化算力平臺，從而滿足各種復雜的AI推理需求。
此次ONNX Runtime對龍架構(gòu)的支持，無疑將進一步推動龍芯平臺在AI領域的應用和發(fā)展，為開發(fā)者提供更加廣闊的創(chuàng)新空間。同時，這也標志著龍架構(gòu)軟件生態(tài)正在不斷完善，為未來的AI技術(shù)革新奠定了堅實基礎。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
龍芯
+關注
關注
3文章
331瀏覽量
31180 -
AI
+關注
關注
87文章
29806瀏覽量
268103 -
開源
+關注
關注
3文章
3215瀏覽量
42328
發(fā)布評論請先 登錄
相關推薦
AMD以49億美元收購ZT Systems，強化AI芯片競爭力
AMD在AI領域的雄心壯志再添新翼，近日宣布以49億美元巨資并購全球領先的超大規(guī)模計算AI基礎設施提供商ZT Systems。這一戰(zhàn)略舉措不
STM CUBE AI錯誤導入onnx模型報錯的原因？
使用cube-AI分析模型時報錯，該模型是pytorch的cnn轉(zhuǎn)化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.ai
發(fā)表于 05-27 07:15
進一步解讀英偉達 Blackwell 架構(gòu)、NVlink及GB200 超級芯片
成為處理萬億參數(shù)生成式AI模型的理想選擇。
NVL72 機架級系統(tǒng)支持萬億參數(shù) LLM 訓練和實時推理
GB200 NVL72 的機架級設計，通過在單個 NVIDIA NVLink 域上連接 72 個
發(fā)表于 05-13 17:16
必易微再添新翼 必易微青島辦事處正式成立
必易微砥礪奮進，再添新翼！ 近日，必易微青島辦事處正式成立，是必易微在華東區(qū)域的又一重要戰(zhàn)略布局。 青島作為國家打造“一帶一路”國際合作新平臺的重點城市，將集成電路產(chǎn)業(yè)放在新興產(chǎn)業(yè)發(fā)展重要位置，匯集
開發(fā)者手機 AI - 目標識別 demo
應用的demo。
應用程序通過相機進行預覽，對預覽畫面中的物體進行目標識別，目前該應用程序支持識別100種物體。
系統(tǒng)架構(gòu)
下圖為demo應用以及Openharmony AI子系統(tǒng)的架構(gòu)
發(fā)表于 04-11 16:14
將yolov5s的模型轉(zhuǎn)成.onnx模型，進行cube-ai分析時報錯的原因？
報錯顯示張量不能大于四維的，想請教解決一下，我再此之后通過onnx-simplifier對.onnx進行簡化之后再通過cube-ai進行分
發(fā)表于 03-15 06:54
使用cube-AI分析模型時報錯的原因有哪些？
使用cube-AI分析模型時報錯，該模型是pytorch的cnn轉(zhuǎn)化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.ai
發(fā)表于 03-14 07:09
AI推理框架軟件ONNX Runtime正式支持龍架構(gòu)
近日，知名AI推理框架開源社區(qū)ONNX Runtime正式發(fā)布支持龍
微軟推出ONNX Runtime Web，利用WebGPU優(yōu)化瀏覽器機器學習性能
作為微軟的 JavaScript 庫，ONNX Runtime Web 使得網(wǎng)絡開發(fā)者能在瀏覽器環(huán)境下部署機器學習模型，并提供多種硬件加速的后端支持。
HarmonyOS：Neural Network Runtime對接AI推理框架開發(fā)指導
場景介紹
Neural Network Runtime 作為 AI 推理引擎和加速芯片的橋梁，為 AI 推理引擎提供精簡的 Native 接
發(fā)表于 12-19 10:09
HarmonyOS：使用MindSpore Lite引擎進行模型推理
場景介紹
MindSpore Lite 是一款 AI 引擎，它提供了面向不同硬件設備 AI 模型推理的功能，目前已經(jīng)在圖像分類、目標識別、人臉識別、文字識別等應用中廣泛使用。
本文介紹
發(fā)表于 12-14 11:41
SC23 | NVIDIA 為全球領先的 AI 計算平臺 Hopper 再添新動力
再添新動力。 NVIDIA H200 是首款采用 HBM3e 的 GPU，其運行更快、更大的顯存容量將進一步加速生成式 AI 與大語言模型，同時推進用于 HPC 工作負載的科學計算。憑借 HBM3e
NVIDIA 為全球領先的 AI 計算平臺 Hopper 再添新動力
NVIDIA HGX? H200，為 Hopper 這一全球領先的 AI 計算平臺再添新動力。NVIDIA HGX H200 平臺基于 NVIDIA Hopper? 架構(gòu)，搭載 NV
發(fā)表于 11-14 14:30
?225次閱讀
工商網(wǎng)監(jiān)
評論