首次公開(kāi)!硬件霸主的軟件秘密

英特爾憑借高性能CPU和先進(jìn)的半導(dǎo)體工藝被大部分人所熟知，不過(guò)如今火熱的AI正讓越來(lái)越多的人意識(shí)到軟件以及軟硬更好結(jié)合的重要性。作為一家以硬件見(jiàn)長(zhǎng)的公司，英特爾在8個(gè)月前發(fā)表聲明表示，對(duì)于全新硬件架構(gòu)的每一個(gè)數(shù)量級(jí)的性能提升潛力，軟件能帶來(lái)超過(guò)兩個(gè)數(shù)量級(jí)的性能提升。這是一個(gè)非常值得關(guān)注的聲明和轉(zhuǎn)變。

在本周的2019英特爾開(kāi)源技術(shù)峰會(huì)（OSTS）上，英特爾公司高級(jí)副總裁兼架構(gòu)、圖形與軟件部門(mén)總經(jīng)理Raja Koduri第一次對(duì)投資者談?wù)撚⑻貭柕能浖?，這也被他成為英特爾另一個(gè)不為人知的秘密。

英特爾公司高級(jí)副總裁兼架構(gòu)、圖形與軟件部門(mén)總經(jīng)理Raja Koduri

英特爾OSTS源自2004年英特爾內(nèi)部的一次會(huì)議，當(dāng)時(shí)只有幾十個(gè)英特爾的工程師參加，2019年的峰會(huì)的規(guī)模擴(kuò)大到了500人，也是最開(kāi)放的一屆，阿里、亞馬遜、谷歌、華為、微軟、京東、AT&T等巨頭的高管都參與其中。

Raja Koduri是如何談?wù)撚⑻貭柫硪粋€(gè)不為人知的秘密？

AI時(shí)代軟硬件結(jié)合為何更加重要？

在談?wù)撚⑻貭柕能浖?，我們先聊聊軟硬件的結(jié)合?；仡欉^(guò)去35年到40年的計(jì)算發(fā)展歷程，計(jì)算力在以驚人的速度增長(zhǎng)。這期間我們也經(jīng)歷了一些基礎(chǔ)性的變化，比如萬(wàn)物數(shù)字化、萬(wàn)物互聯(lián)、萬(wàn)物移動(dòng)化、萬(wàn)物云化。并且，每一個(gè)基礎(chǔ)性轉(zhuǎn)變背后也伴隨著軟硬件結(jié)合的變遷。

互聯(lián)網(wǎng)時(shí)代PC作為主要的硬件載體，其軟硬件結(jié)合的典型就是x86架構(gòu)和Windows系統(tǒng)。從PC時(shí)代的10億用戶增長(zhǎng)到移動(dòng)互聯(lián)網(wǎng)時(shí)代的100億用戶，移動(dòng)時(shí)代的主導(dǎo)又變?yōu)榱?a target="_blank">Arm架構(gòu)和iOS及Android操作系統(tǒng)的結(jié)合，當(dāng)然Linux系統(tǒng)和x86平臺(tái)也占據(jù)一部分市場(chǎng)。

如今，大家在談?wù)撘?guī)模將達(dá)1000億臺(tái)設(shè)備的下一個(gè)時(shí)代，很難預(yù)測(cè)什么樣的架構(gòu)和軟件的結(jié)合會(huì)成為主流。但可以明確的是在軟硬件的結(jié)合中，軟件正在發(fā)揮越來(lái)越重要的價(jià)值。

這其中很重要的原因就是摩爾定律的放緩，靠工藝制程帶來(lái)硬件性能的大幅提升正變得越來(lái)越難。但前線的架構(gòu)師可能會(huì)說(shuō)：“我們需要更多的晶體管。如果不作出改變，我們是無(wú)法使所有工作負(fù)載都快速運(yùn)行的?！?/p>

Raja Koduri在2019英特爾開(kāi)源技術(shù)峰會(huì)上的演講中指出，計(jì)算速度的增加想有指數(shù)級(jí)的增長(zhǎng)，那就必須要硬件和軟件來(lái)共同創(chuàng)新。軟件社區(qū)和硬件社區(qū)相互交流，并真正去思考彼此的問(wèn)題，這比以往任何時(shí)候都更重要。

強(qiáng)調(diào)AI時(shí)代軟件將發(fā)揮更重要作用的不止是英特爾。Arm機(jī)器學(xué)習(xí)部門(mén)商業(yè)與市場(chǎng)副總裁Dennis Laudick去年11月接受雷鋒網(wǎng)專訪時(shí)指出：“軟件才是AI處理器中更關(guān)鍵的部分，軟件生態(tài)系統(tǒng)是Arm成功的關(guān)鍵所在，這也是Arm過(guò)去20年已經(jīng)做的事情。近兩年的AI熱潮會(huì)對(duì)軟件行業(yè)帶來(lái)革命性的變化，因?yàn)閭鹘y(tǒng)的軟件在概率判斷，評(píng)估猜測(cè)方面有一些局限性，AI對(duì)概率判斷的準(zhǔn)確度和猜測(cè)的準(zhǔn)確度上有其特點(diǎn)，AI將讓軟件進(jìn)入2.0的時(shí)代?！?/p>

CEVA營(yíng)銷副總裁Moshe Sheier去年也對(duì)雷鋒網(wǎng)表示，AI還處于一個(gè)早期的階段，現(xiàn)在各家的AI處理器IP在SoC中所占的面積都不小，而人工智能還在不斷演進(jìn)中，未來(lái)算法和設(shè)計(jì)的改進(jìn)會(huì)持續(xù)帶來(lái)AI技術(shù)的更新。如何延長(zhǎng)產(chǎn)品的周期更好地適應(yīng)OEM廠商不斷變化的需求非常關(guān)鍵，這時(shí)軟件的作用尤為明顯，能夠通過(guò)軟硬結(jié)合不斷適應(yīng)技術(shù)變化和提高效率的AI方案對(duì)產(chǎn)品落地非常重要。

軟件到底能帶來(lái)多大幅度提升？

那么軟件到底能帶來(lái)多大程度的提升？Raja Koduri舉了三個(gè)例子。第一個(gè)例子是從JDK8到JDK9， Java生態(tài)系統(tǒng)中實(shí)現(xiàn)了巨大的性能提升。英特爾的工程師們?yōu)榭蛻艉?a target="_blank">開(kāi)發(fā)者將現(xiàn)有硬件的性能提升了6倍。如果從硬件的角度來(lái)看，這相當(dāng)于是在一次軟件發(fā)布中就實(shí)現(xiàn)了數(shù)代的硬件性能提升。

第二個(gè)例子是內(nèi)存方面，原始硬件本身極具局限性，但如果將其與英特爾的內(nèi)存層級(jí)架構(gòu)相結(jié)合，再加上他們?cè)谲浖７矫娴念I(lǐng)先技術(shù)，就能將工作負(fù)載的性能提升8倍。同樣，這也相當(dāng)于數(shù)代的硬件性能提升。

第三個(gè)例子是深度學(xué)習(xí)方面，利用DL Boost等架構(gòu)擴(kuò)展，在過(guò)去12至18個(gè)月釋放了英特爾CPU潛能。從Skylake升級(jí)至Cascade Lake，相比上一代硬件提速28倍。

Arm同樣憑借軟件帶來(lái)了非常顯著的提升，Dennis Laudick表示：“Arm的AI處理器是一個(gè)異構(gòu)的系統(tǒng)，其中包含CPU、GPU、NPU等，但作為IP核想要實(shí)現(xiàn)更好的可配置性軟件體系非常重要。在硬件之上有我們特別優(yōu)化的Compute Library，它會(huì)把底層的硬件和驅(qū)動(dòng)進(jìn)行充分優(yōu)化，根據(jù)算子的不同需求驅(qū)動(dòng)硬件，可以提升幾倍到十幾倍的效率?！?/p>

硬件霸主的軟件秘密

Raja Koduri演講時(shí)表示：“在為這個(gè)演講做準(zhǔn)備時(shí)，我與英特爾負(fù)責(zé)軟件的主管們進(jìn)行了座談，聽(tīng)取他們對(duì)我本次演講內(nèi)容的反饋。有趣的是，他們的第一反應(yīng)是，這好像是我們第一次對(duì)投資者談?wù)撥浖?，其中有些人已?jīng)在英特爾工作了25年以上?！?/p>

他也認(rèn)為，軟件給英特爾帶來(lái)的獨(dú)特競(jìng)爭(zhēng)優(yōu)勢(shì)是一個(gè)不為人知的秘密。

“英特爾產(chǎn)品帶來(lái)的軟硬件結(jié)合的差異化優(yōu)勢(shì)常常被低估。其他公司的產(chǎn)品性能哪怕僅提高了10%，也會(huì)被拿來(lái)大做文章，而我們?cè)诿總€(gè)核心的性能提高了10倍，網(wǎng)絡(luò)性能提高了2倍，Java提高了2倍?！?Raja Koduri表示。

一個(gè)值得關(guān)注的數(shù)字是，硬件巨頭英特爾擁有超過(guò)15000名軟件工程師，并且是多個(gè)軟件開(kāi)源社區(qū)最重要的貢獻(xiàn)者。據(jù)介紹，英特爾是Linux Kernel的最大貢獻(xiàn)者，每年會(huì)修改或編寫(xiě)50萬(wàn)行代碼，優(yōu)化了超過(guò)100個(gè)操作系統(tǒng)；也是Chromium OS的三大貢獻(xiàn)者之一，在軟件方面擁有超過(guò)10000個(gè)高度定制化客戶部署；還是OpenStack的十大貢獻(xiàn)者之一。

另外，英特爾擁有一個(gè)超過(guò)1200萬(wàn)開(kāi)發(fā)者的生態(tài)系統(tǒng)。Raja Koduri說(shuō)：“英特爾的軟件生態(tài)規(guī)模很大，橫跨開(kāi)發(fā)者、基礎(chǔ)設(shè)施客戶、網(wǎng)絡(luò)、操作系統(tǒng)開(kāi)發(fā)者、英特爾開(kāi)發(fā)的工具和SDK，影響了大量標(biāo)準(zhǔn)組織，高度定制化客戶，以及我們?cè)?a href="http://www.ttokpm.com/soft/data/55-88/" target="_blank">物聯(lián)網(wǎng)和邊緣計(jì)算上的布局等，這簡(jiǎn)直不可思議?！?/p>

英特爾正在從晶體管為中心到數(shù)據(jù)為中心轉(zhuǎn)型，也在去年提出了英特爾的六大技術(shù)支柱——制程、架構(gòu)、內(nèi)存、互連、安全、軟件。這六個(gè)技術(shù)支柱環(huán)環(huán)嵌套，通過(guò)超異構(gòu)計(jì)算，英特爾可以集成不同架構(gòu)、不同制程、3D封裝、互連和OneAPI等技術(shù)創(chuàng)新，能夠?yàn)榭蛻籼峁└嗟撵`活性和更快的產(chǎn)品上市時(shí)間，全方位推動(dòng)計(jì)算創(chuàng)新發(fā)展。

當(dāng)然，這也是英特爾未來(lái)創(chuàng)新的驅(qū)動(dòng)力。

英特爾GPU以及AI的軟件策略

Raja Koduri表示：“去年我們公布了自己的愿景，未來(lái)將是標(biāo)量、矢量、矩陣和空間的多種架構(gòu)組合，部署在CPU、GPU、FPGA和加速器套件之中。我們正在如期執(zhí)行這一計(jì)劃。我們擁有多個(gè)架構(gòu)，多個(gè)內(nèi)存層級(jí)架構(gòu)和互連層級(jí)架構(gòu)。架構(gòu)路線圖已經(jīng)準(zhǔn)備好，這樣就可以在硬件產(chǎn)品路線圖中覆蓋到GPU和AI開(kāi)發(fā)者?！?/p>

從架構(gòu)與開(kāi)發(fā)者生態(tài)與競(jìng)爭(zhēng)對(duì)手對(duì)比。英偉達(dá)的開(kāi)發(fā)者生態(tài)系統(tǒng)規(guī)模適中，但是僅圍繞著一個(gè)單一架構(gòu)。并且他們沒(méi)有內(nèi)存策略，看起來(lái)英偉達(dá)正在嘗試建立互聯(lián)策略，英偉達(dá)在今年3月宣布以69億美元收購(gòu)Mellanox。

AMD有兩個(gè)架構(gòu)，但也沒(méi)有內(nèi)存或互連策略，而且AMD的開(kāi)發(fā)者生態(tài)系統(tǒng)的規(guī)模也不大。

Raja Koduri指出，中間這個(gè)圓圈里的策略和潛力只能讓你走這么遠(yuǎn)。他引用了Murthy的話，真正的挑戰(zhàn)是如何將我們的軟件策略從一個(gè)架構(gòu)擴(kuò)展到四個(gè)架構(gòu)。

為此，英特爾給自己設(shè)定了三個(gè)目標(biāo)。第一個(gè)目標(biāo)是簡(jiǎn)便和可擴(kuò)展的，英特爾希望他們的軟件讓開(kāi)發(fā)者易于使用，而且不僅可以擴(kuò)展到所有的架構(gòu)，更可以擴(kuò)展到所有的操作系統(tǒng)。第二個(gè)目標(biāo)是開(kāi)放性，致力于向所有人開(kāi)放標(biāo)準(zhǔn)。第三個(gè)目標(biāo)是必須提供統(tǒng)一的開(kāi)發(fā)體驗(yàn)，有時(shí)跟英特爾合作像是在與十家不同的公司合作，他們要解決這個(gè)問(wèn)題。

為了實(shí)現(xiàn)這些目標(biāo)，英特爾已經(jīng)投入了一年多，在內(nèi)部稱為oneAPI項(xiàng)目。Raja Koduri高興地宣布，oneAPI項(xiàng)目將在2019年第四季度之前如期交付給開(kāi)發(fā)者。

英特爾在開(kāi)源技術(shù)峰會(huì)上還公布了一系列最新進(jìn)展，包括適應(yīng)英特爾架構(gòu)的核心基礎(chǔ)設(shè)施現(xiàn)代化、為開(kāi)發(fā)者和合作伙伴提升英特爾基于Linux的解決方案、在汽車和工業(yè)自動(dòng)化領(lǐng)域?qū)崿F(xiàn)新應(yīng)用。

PC時(shí)代和移動(dòng)互聯(lián)網(wǎng)時(shí)代的主流架構(gòu)無(wú)疑是x86和Arm，無(wú)論是英特爾和Arm都公開(kāi)地表示軟件是他們獨(dú)特的競(jìng)爭(zhēng)優(yōu)勢(shì)。對(duì)于英特爾這家以硬件著稱的公司，公開(kāi)地談?wù)撟约涸谲浖I(lǐng)域的實(shí)力確實(shí)也讓我們能夠更清楚地看到他們?cè)谀柖煞啪徶履軌蚶^續(xù)保持競(jìng)爭(zhēng)力和創(chuàng)新的關(guān)鍵所在。相信也有不少人此前沒(méi)有意識(shí)到英特爾在軟件和開(kāi)發(fā)者生態(tài)方面的實(shí)力。

硬件架構(gòu)的完善以及軟件oneAPI能力，決定著英特爾在AI和數(shù)據(jù)時(shí)代競(jìng)爭(zhēng)力。