微軟堅持投注于用FPGA加速機器學習模型

昨晚，微軟Build2018大會開幕，發(fā)布Project Brainwave預覽版，并且稱延遲比TPU低5倍，正面與谷歌交鋒?，F(xiàn)在，谷歌等公司都押注在專用定制芯片（ASIC）上，微軟堅持投注于用FPGA加速機器學習模型，到底誰更勝一籌？

昨晚午夜，微軟Build 2018大會開幕，微軟CEO薩提亞·納德拉（Satya Nadella）重點介紹幾個方面的進展：

Project Brainwave預覽版

Azure IoT Edge開源

Kinect回歸

AI語音工具和未來會議室

其中最令人關注的是Brainwave預覽版，在這個平臺上，能夠用FPGA在Azure云和邊緣設備上實時運行深度學習模型。

Project Brainwave使用英特爾的FPGA，納德拉說，大家不要只看到谷歌的TPU，還有我們微軟的Brainwave嘛。

Brainwave到底有多厲害？

Project Brainwave：實時硬件AI能力延遲比TPU低5倍

目前，微軟的一些競爭對手，包括谷歌，都押注在專用定制芯片（ASIC），但微軟堅持投注于用FPGA加速機器學習模型，Brainwave也不例外。

微軟認為FPGA比設計定制芯片更靈活，并且標準Intel Stratix FPGA的性能至少可以與定制芯片相媲美。在大會上，微軟認為Project Brainwave的實時AI能力延遲比TPU低5倍。

微軟稱，利用Project Brainwave的客戶可以使用標準的圖像識別模型處理100萬張圖片，而單個圖像只需要在1.8毫秒內(nèi)就能處理，這比現(xiàn)在的任何競爭對手的云服務都要好。

Brainwave首次亮相是在去年8月的Hot Chips大會上，當時公開的信息顯示，Brainwave由三個不同的層組成：

一個高性能分布式架構;

已經(jīng)整合在FPGA上一個硬件深度神經(jīng)網(wǎng)絡引擎;

用于部署預訓練的模型的編譯器和運行時。

用于Project Brainwave的硬件示例

微軟正在將FPGA整合到其整個數(shù)據(jù)中心網(wǎng)絡，成為一種硬件微服務。這樣做的好處是高吞吐量和大幅減少延遲，因為該架構允許微軟繞過傳統(tǒng)服務器的CPU直接與FPGA進行通信。

BrainWave最初發(fā)布時，支持微軟CNTK和谷歌TensorFlow框架。

Project Brainwave為傳統(tǒng)AI帶來了兩個重要的區(qū)別。

首先，它使用的FPGA可以經(jīng)常更新升級，以對最新算法提供加速，并且它可以快速處理AI任務，適合用于對響應時間要求很高的實時任務。

其次，客戶將能夠在他們自己的網(wǎng)站上運行使用微軟硬件的AI任務，而不用通過接入微軟的數(shù)據(jù)中心，這又加快了速度。

不過，F(xiàn)PGA在云計算中并沒有被廣泛使用，因此大多數(shù)公司都沒有必要的專業(yè)知識來編程，微軟做出了大膽的一步。微軟表示，其云服務可以將客戶的軟件應用于FPGA。

另一方面的谷歌TPU勢頭正猛。

上個月，谷歌的AI負責人Jeff Dean 表示，他們在 ImageNet 圖像分類上發(fā)布了新的 DAWNBench 結果，新型 AmoebaNet-D 網(wǎng)絡在 TPU 上實現(xiàn)了最低的訓練時間和最少的訓練成本。

明天，谷歌的I/O大會將開幕，預計也會在TPU上大做文章，好戲還在后面。

Azure IoT Edge開源和Kinect“回歸”

納德拉說，預計到2020年，智能設備總數(shù)將超過200億臺。接著他公布了微軟Build 2018的另一個進展：智能邊緣計算與智能云，并宣布Azure IoT Edge Runtime開源。

Azure IoT Edge Runtime開源能讓用戶修改、調試邊緣應用，透明度和控制能力也更高。不夠，現(xiàn)在認知服務目前只有視覺，將來會有更多的服務出來。

Azure IoT Edge目前已經(jīng)和高通、大疆進行合作。

另外，微軟還發(fā)布了Project Kinect for Azure，Kinect以前是用于Xbox的體感設備，這次相當于是回歸。

Project Kinect for Azure能完成動作追蹤等任務，背后是Azure IoT Edge Runtime技術。

黃學東：微軟的麥克風陣列讓語音識別再上一個臺階

還有一個值得關注的領域是微軟Build大會上展示的未來會議室。

會議室使用的是360度相機和麥克風陣列，可以檢測會議室中的任何人說話。攝像頭能夠把各個畫面拼成一個全景畫面，還可以進行人臉識別，以確保參會者的身份，此外，還能把會議室預約系統(tǒng)做進去，真是強大。

更強大的是，這個未來會議室還有基于語義分析的會議紀要功能，能夠實時同傳+速記。

多年來，微軟一直致力于Skype的翻譯功能，未來的會議室也包括這項技術。會后，微軟全球技術院士黃學東表示，視頻中展示的未來會議室使用了他們剛剛宣布的Microsoft Speech Device SDK，“微軟公司極其優(yōu)秀的麥克風陣列可以讓語音識別再上一個臺階?！?/p>

黃學東還提到，中國的AI公司ROOBO和微軟合作開發(fā)認知服務開發(fā)套件。

微軟提供Speech Service開發(fā)平臺，ROOBO完成Microsoft Speech Device SDK在音頻、聲學及硬件的設計與實現(xiàn)，由開發(fā)者使用的硬件也是由ROOBO提供。

此外，微軟還宣布“人工智能無障礙計劃（AI for Accessibility）”，未來五年內(nèi)將投入2500萬美元，用于研發(fā)能夠增強人類能力的人工智能技術。