MathWorks 宣布 MATLAB 與 NVIDIA TensorRT 集成來加快人工智能應(yīng)用

對(duì)比 NVIDIA GPU 上的 TensorFlow，該集成使深度學(xué)習(xí)推理速度快 5 倍。

中國北京 – 2018 年 4 月 11 日 – MathWorks 今日宣布 ，MATLAB 現(xiàn)在可通過 GPU Coder 實(shí)現(xiàn)與 NVIDIA TensorRT 集成。這可以幫助工程師和科學(xué)家們?cè)?MATLAB 中開發(fā)新的人工智能和深度學(xué)習(xí)模型，且可確保性能和效率滿足數(shù)據(jù)中心、嵌入式應(yīng)用和汽車應(yīng)用不斷增長(zhǎng)的需求。

MATLAB 提供了一個(gè)完整的工作流程來快速訓(xùn)練、驗(yàn)證和部署深度學(xué)習(xí)模型。工程師可以使用 GPU 資源，而無需額外編程操作，因此可以專注于應(yīng)用本身而不是性能調(diào)優(yōu)。NVIDIA TensorRT 與 GPU Coder 的全新集成使得可以在 MATLAB 中開發(fā)深度學(xué)習(xí)模型，然后以高吞吐量低延遲的方式部署在 NVIDIA GPU 上運(yùn)行。內(nèi)部基準(zhǔn)測(cè)試顯示，MATLAB 生成的CUDA代碼與 TensorRT 結(jié)合，在部署 Alexnet模型進(jìn)行深度學(xué)習(xí)推理時(shí)，性能比 TensorFlow 高 5 倍；在部署 VGG-16 模型進(jìn)行深度學(xué)習(xí)推理時(shí)，性能比 TensorFlow 高 1.25 倍。*

“不斷發(fā)展的圖像、語音、傳感器和物聯(lián)網(wǎng) （IoT） 技術(shù)促使團(tuán)隊(duì)以更好的性能和效率研究人工智能解決方案。此外，深度學(xué)習(xí)模型變得越來越復(fù)雜。所有這些都給工程師們帶來了巨大的壓力，” MathWorks 總監(jiān) David Rich 說。“現(xiàn)在，團(tuán)隊(duì)可以使用 MATLAB 訓(xùn)練深度學(xué)習(xí)模型，NVIDIA GPU 可以將實(shí)時(shí)推理部署到從云端到數(shù)據(jù)中心到嵌入式邊界設(shè)備等各種環(huán)境中?！?/p>

* 所有基準(zhǔn)測(cè)試均在一臺(tái)使用 NVIDIA TITAN Xp GPU、64GB RAM 的 Linux 12 core Intel? Xeon? E5-1650 v3 電腦上運(yùn)行，使用的軟件包括帶 GPU Coder 的 MATLAB R2018a、TensorRT 3.0.1、TensorFlow 1.6.0、CUDA 9.0 和 cuDNN 7

關(guān)于 MathWorks

MathWorks 公司是數(shù)學(xué)計(jì)算軟件領(lǐng)域世界領(lǐng)先的開發(fā)商。它所推出的 MATLAB 是一種用于算法開發(fā)、數(shù)據(jù)分析、可視化和數(shù)值計(jì)算的程序設(shè)計(jì)環(huán)境，稱為“科學(xué)計(jì)算的語言”。Simulink 是一種圖形環(huán)境，可用于對(duì)多域動(dòng)態(tài)系統(tǒng)和嵌入式系統(tǒng)進(jìn)行仿真和基于模型設(shè)計(jì)。全球的工程師和科學(xué)家們都依賴于 MathWorks 公司所提供的這些產(chǎn)品家族，來加快在汽車、航空、電子、金融服務(wù)、生物醫(yī)藥以及其他行業(yè)的發(fā)明、創(chuàng)新及開發(fā)的步伐。除此之外，MATLAB 和 Simulink 產(chǎn)品還是基礎(chǔ)教學(xué)和研究工具，為全球眾多大學(xué)和教學(xué)機(jī)構(gòu)所采用。MathWorks 創(chuàng)立于 1984 年，總部位于美國馬薩諸塞州內(nèi)蒂克，在 15 個(gè)國家共擁有超過 3500 名員工。