硬件架構(gòu)走向多元化，英特爾要以oneAPI一“統(tǒng)”天下？

科技界被一個“快”字裹挾很久了。更高的生產(chǎn)效率和毫不妥協(xié)的性能，成為任何一家科技公司的追求。

隨著邁入以數(shù)據(jù)為中心的時代，我們看到的不僅是數(shù)據(jù)量的爆發(fā)，更是有數(shù)據(jù)形態(tài)的巨大變化：從傳統(tǒng)的文本、圖形數(shù)據(jù)，到現(xiàn)在的視頻、音頻、社交等非結(jié)構(gòu)化數(shù)據(jù)，未來還有包括聯(lián)網(wǎng)汽車數(shù)據(jù)、神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)、基因數(shù)據(jù)等更多形態(tài)的數(shù)據(jù)。

這種海量數(shù)據(jù)的多樣性，首先對計算能力提出了巨大的挑戰(zhàn)，由此帶來了數(shù)據(jù)處理方式和計算架構(gòu)的延伸。未來十年我們將看到比過去五十年中多得多的架構(gòu)。

與此同時，軟件的重要性被提到了前所未有的高度。英特爾曾提出，對于全新硬件架構(gòu)的每一個數(shù)量級的性能提升潛力，軟件能帶來兩個數(shù)量級的性能提升。

為了簡化編程流程、提升效率，英特爾于去年12月宣布推出oneAPI項目，并將于今年第四季度發(fā)布開發(fā)者測試版本。日前，<電子發(fā)燒友>在英特爾的溝通會上，率先了解了oneAPI的技術(shù)細節(jié)和戰(zhàn)略意義。

oneAPI：跨架構(gòu)、跨廠商，向全行業(yè)開放

在解決計算問題時，過去幾代產(chǎn)品的答案幾乎一直是晶體管密度，并且摩爾定律發(fā)揮主導(dǎo)作用。但隨著制程節(jié)點發(fā)展速度相較于過去幾十年呈現(xiàn)出減緩的態(tài)勢，現(xiàn)代計算又提出更多更新的需求，需要結(jié)合晶體管、架構(gòu)研究、連接性提升、更快速的內(nèi)存系統(tǒng)和軟件等眾多因素，共同推動創(chuàng)新。

“oneAPI既是英特爾的一種產(chǎn)品，同時又是一種行業(yè)規(guī)范”， 英特爾架構(gòu)、圖形與軟件部副總裁兼計算性能與開發(fā)者產(chǎn)品部門總經(jīng)理Bill Savage介紹，“oneAPI是從軟件層面來簡化和統(tǒng)一跨SVMS架構(gòu)的創(chuàng)新。它可以簡化并且統(tǒng)一跨不同架構(gòu)、跨不同廠商之間的編程，是一個鼓勵社區(qū)和行業(yè)支持的一種開放、標(biāo)準(zhǔn)的解決方案?！?br /> 英特爾產(chǎn)品覆蓋的計算架構(gòu)包括標(biāo)量（Scalar）、矢量（Vector）、矩陣（Matrix）和空間（Spatial），分別主要應(yīng)用于CPU、GPU、AI加速器和FPGA產(chǎn)品。英特爾指出，在接下來五到十年中最重要的現(xiàn)代工作負載，就是這種標(biāo)量、矢量、矩陣和空間架構(gòu)的組合，英特爾稱之為SVMS架構(gòu)。

為什么底層接口如此重要？Bill Savage表示，數(shù)百萬的開發(fā)者在最上層創(chuàng)造越來越多的應(yīng)用，他們所使用的大量中間件以及框架來自數(shù)萬的中間件開發(fā)者。oneAPI在最接近硬件的底層，對整個軟件堆棧會產(chǎn)生更大的影響，針對硬件使用統(tǒng)一接口，對軟件開發(fā)者來講這也是一個很好的價值主張。oneAPI所能發(fā)揮的價值在于——通過跨CPU、GPU、AI加速器和FPGA產(chǎn)品架構(gòu)，統(tǒng)一并簡化編程，被廣泛的生態(tài)系統(tǒng)采用，為開發(fā)者帶來更高的生產(chǎn)效率和性能。

全新編程語言DPC++專門針對多元化架構(gòu)

在一個多元化的架構(gòu)中進行編程的話，很可能需要多種不同工具以及不同語言。這就意味著在軟件開發(fā)過程中需要多支團隊，他們各自要學(xué)習(xí)很多不同專業(yè)的技能，這顯然不是一種最高效的軟件開發(fā)方式。

在oneAPI項目中，英特爾攜手行業(yè)開發(fā)了一種叫做Data Parallel C++（DPC++）的全新語言，以支持實現(xiàn)橫跨SVMS架構(gòu)的數(shù)據(jù)并行編程。這是一種基于標(biāo)準(zhǔn)的開放式跨行業(yè)語言，可替代單一架構(gòu)專有語言。

為什么需要一種全新的語言呢？畢竟這個世界上已經(jīng)有這么多語言了。英特爾架構(gòu)、圖形與軟件部副總裁兼編譯器與語言部門總經(jīng)理Alice Chan指出，現(xiàn)有的眾多語言各有局限所在：例如眾所周知的C++，它雖然是可移植的，而且底層性能非常好，但是本身缺乏了一些并行語言的特征，很難很好地用于并行架構(gòu)；MATLAB更多集中在頂層，如果想在底層得到很好的性能較難；英偉達的CUDA能夠進行并行架構(gòu)的編程，也可以把負載轉(zhuǎn)移到加速器，但是它只能用在英偉達自己的硬件上；還有其他語言例如OpenCL也能實現(xiàn)并行編程，但是圍繞它的社群和整體行業(yè)的活躍度并不高。
那么，英特爾如何確保DPC++能夠如預(yù)期一樣發(fā)揮出最佳性能？70年代Cray就做到了矢量化，90年代的時候超算也做到了單程序多數(shù)據(jù)（SPMD），2006年英偉達推出CUDA語言的時候就提出了細粒度的SPMD?，F(xiàn)在，DPC++語言將上述三種技術(shù)思路融會貫通，使用底層虛擬機按照有序的結(jié)構(gòu)進行編譯。據(jù)了解，英特爾開始這個項目已經(jīng)有一段時間了，目前試驗證明性能至少是優(yōu)于或者等同于之前的這些技術(shù)和方式的，DPC++能夠跨結(jié)構(gòu)實現(xiàn)所需的特性和抽象。

高性能庫如何推動人工智能的發(fā)展？

人工智能的發(fā)展進一步推動了對算力的渴求，硬件架構(gòu)的世界已經(jīng)發(fā)生了極大的顛覆，英特爾自身就有SVMS架構(gòu)，華為、阿里、百度以及非常多的AI初創(chuàng)公司各有自己的芯片戰(zhàn)略。

對此，英特爾架構(gòu)、圖形與軟件部首席工程師Eric Lin表示，沒有軟件芯片無法使用，需要大量的開發(fā)者去將它表達為用戶真正所需。這其中需要非常深厚的經(jīng)驗，英特爾希望將硬件能力抽象出來，把最重要的算法融于oneAPI，使開發(fā)者不再需要針對硬件做開發(fā)，更容易發(fā)揮出硬件的所有潛力。這是英特爾提供計算庫的根本原因。
有了這個計算庫之后，能夠提供給更多的框架開發(fā)者所使用，例如TensorFlow、 PaddlePaddle、MXNet等等。由于框架主要是給數(shù)據(jù)科學(xué)家所使用，他們往往缺少硬件知識，英特爾的策略是將計算庫集成到框架中，再提供給數(shù)百萬數(shù)據(jù)科學(xué)家、算法工程師，達到為開發(fā)者屏蔽硬件復(fù)雜性的目的。

由此看來，一個計算庫服務(wù)數(shù)萬個框架開發(fā)者，服務(wù)數(shù)百萬甚至更多的數(shù)據(jù)科學(xué)家，打通了從硬件到應(yīng)用的道路。

oneAPI集成的計算庫堪稱業(yè)內(nèi)“豪華配置“，包括快速、使用廣泛的數(shù)學(xué)函數(shù)庫MKL、使用經(jīng)典機器學(xué)習(xí)算法的英特爾數(shù)據(jù)分析加速庫DAAL，以及面向深度神經(jīng)網(wǎng)絡(luò)的英特爾數(shù)學(xué)核心函數(shù)庫MKL-DNN等。

OpenVINO——oneAPI在深度學(xué)習(xí)方面的“小現(xiàn)實”

對于深度學(xué)習(xí)來說，數(shù)據(jù)分析過程基本包括四步：第一，獲取數(shù)據(jù)；第二，建立數(shù)學(xué)模型，并且用這些數(shù)據(jù)去訓(xùn)練；第三，根據(jù)部署場景有針對性地優(yōu)化模型；第四是推理，真正地讓各種各樣的開發(fā)者，把他們的服務(wù)、產(chǎn)品推向用戶。如何讓這個工作流程的所有開發(fā)者、參與者更有效率，是英特爾當(dāng)前的重點之一。

去年8月，英特爾面向中國市場推出了專注于加速深度學(xué)習(xí)的OpenVINO工具包，能夠幫助企業(yè)在邊緣側(cè)快速實現(xiàn)高性能計算機視覺與深度學(xué)習(xí)的開發(fā)。作為為客戶解決問題的優(yōu)化推理引擎，OpenVINO補充了深度學(xué)習(xí)框架，支持應(yīng)用程序開發(fā)者以統(tǒng)一接口跨SVMS架構(gòu)進行開發(fā)。據(jù)Eric介紹：“OpenVINO就是目前的一個商業(yè)部署，它所做的事情就是讓開發(fā)者直接用一個統(tǒng)一的API，幫開發(fā)者完成簡單的開發(fā)、簡單的維護、并帶來高性能，它展示了oneAPI愿景的現(xiàn)實?！?br />
在沒有OpenVINO之前，開發(fā)者如何進行部署？以英特爾自己為例，各種各樣的庫，有針對CPU的、顯卡的、計算棒的、FPGA的……每一次開發(fā)的時候，各個庫API不一樣，性能調(diào)優(yōu)不一樣，Debug不一樣，數(shù)據(jù)的預(yù)處理不一樣，開發(fā)成本非常高。OpenVINO實現(xiàn)了無論是哪種類型的硬件，讓開發(fā)者用一個統(tǒng)一API。

根據(jù)已公布的應(yīng)用來看，云從的人臉識別智能設(shè)備、中科英泰的智能零售方案、阿里巴巴在AliOS 互聯(lián)網(wǎng)汽車道路感知算法優(yōu)化方面、宇視科技的全融合智能解決方案UniAI等，都基于OpenVINO工具包。

對標(biāo)英偉達CUDA？

NVIDIA公司于2007年正式發(fā)布的CUDA（Compute Unified Device Architecture，統(tǒng)一計算架構(gòu)），是第一種不需借助圖形學(xué)API就可以使用類C語言進行通用計算的開發(fā)環(huán)境和軟件體系，是建立在GPU基礎(chǔ)之上的通用計算開發(fā)平臺。由于在性能、成本和開發(fā)時間上較傳統(tǒng)的CPU解決方案有顯著優(yōu)勢，當(dāng)時在學(xué)術(shù)界和產(chǎn)業(yè)界引起了熱烈反響?，F(xiàn)在，CUDA已經(jīng)在金融、石油、天文學(xué)、流體力學(xué)、信號處理、電磁仿真、模式識別、圖像處理、視頻壓縮等領(lǐng)域獲得廣泛應(yīng)用，并取得了豐碩的成果。

oneAPI的推出，似有異曲同工之妙。對此，Bill Savage表示，oneAPI開放給所有包括英偉達在內(nèi)的硬件廠商，行業(yè)也需要這樣一種開放的、對于現(xiàn)有解決方案之外的另一種選擇。英特爾致力于向所有的、多樣的架構(gòu)來提供支持，使它們能夠很好地一起協(xié)作。

英特爾已對DPC++一些開源項目在GitHub上進行托管，但一個顯然存在的問題是，GitHub一些開源項目都是基于原有的如英偉達的GPU而實施，如果現(xiàn)在用oneAPI，開發(fā)者將會面臨重新學(xué)習(xí)的問題。對此，Bill Savage表示，英特爾在設(shè)計DPC++的時候，語言本身已經(jīng)和CUDA非常接近，對于開發(fā)人員來講學(xué)習(xí)相對比較容易。至于程序員的遷移問題，英特爾會在年底發(fā)布測試版本的時候分享更多工具，來幫助遷移更容易。