優(yōu)化引擎和控制器，加速AI火箭

你學(xué)過(guò)指數(shù)嗎？恐怕沒(méi)幾個(gè)人會(huì)對(duì)這個(gè)問(wèn)題說(shuō) “No”。那么，你對(duì)指數(shù)式發(fā)展有什么樣的認(rèn)識(shí)？這個(gè)問(wèn)題回答起來(lái)也許就沒(méi)那么容易了。然而，指數(shù)式發(fā)展實(shí)實(shí)在在地就在我們身邊、在我們手上發(fā)生。不相信嗎？看看你的手機(jī)。

1965年，英特爾的創(chuàng)始人之一戈登·摩爾提出了“摩爾定律”。半個(gè)世紀(jì)以來(lái)，“摩爾定律”一直推動(dòng)著人類(lèi)社會(huì)不斷向前進(jìn)步。現(xiàn)在技術(shù)帶來(lái)的便利，是半個(gè)世紀(jì)以前的人不能想象的。這正是因?yàn)椤澳柖伞痹跀?shù)學(xué)本質(zhì)上是一個(gè)指數(shù)式發(fā)展定律，它指明了計(jì)算設(shè)備的計(jì)算能力將以指數(shù)式發(fā)展前進(jìn)。

（圖片來(lái)源:https://iq.intel.com/millennials-marching-to-the-quickening-metronome-of-moores-law/關(guān)鍵詞為：Moore law）

指數(shù)式發(fā)展之所以難以認(rèn)識(shí)，是因?yàn)橐婚_(kāi)始它的發(fā)展速度相對(duì)緩慢，甚至是難以察覺(jué)的，然而突破某個(gè)階段之后，它就會(huì)以人力難以想象的速度飛升。就像一艘火箭，點(diǎn)火后的前五秒，它的速度并不快，可一旦馬力全開(kāi)，強(qiáng)大的引擎加上高動(dòng)能的燃料，足以讓火箭在幾分鐘內(nèi)飛上藍(lán)天，遨游太空。

目前，人工智能技術(shù)的發(fā)展，可以說(shuō)正處在火箭的點(diǎn)火和準(zhǔn)備加速階段。在大眾媒體上，AI相關(guān)的新聞比比皆是。在技術(shù)領(lǐng)域中，處理器和算法的演進(jìn)同樣日新月異，公共云服務(wù)商UCloud和英特爾一起，在這方面攜手取得了諸多進(jìn)展。

▌優(yōu)化引擎和控制器，加速AI火箭

UCloud實(shí)驗(yàn)室研發(fā)總監(jiān)、創(chuàng)新產(chǎn)品線總監(jiān)葉理燈指出：“人工智能有三個(gè)要素——數(shù)據(jù)、算法、計(jì)算能力。有一個(gè)理論叫’火箭理論’，就是説如果把人工智能當(dāng)火箭的話，那么數(shù)據(jù)是火箭的原料，計(jì)算能力就是引擎，算法就是引擎的控制器?！?/p>

為了幫助初創(chuàng)企業(yè)、傳統(tǒng)企業(yè)AI轉(zhuǎn)型， UCloud推出了UCloud AI在線服務(wù)UAI-Inference，并以英特爾至強(qiáng)處理器E5產(chǎn)品家族作為這艘火箭的引擎，利用該處理器產(chǎn)品家族強(qiáng)大的可擴(kuò)展性完成彈性部署，既能獲得高性能，還降低了成本以及用戶的TCO。

（圖片來(lái)源: https://iq.intel.com/making-genomic-healthcare-available-to-everyone/關(guān)鍵詞為 cloud computing）

在英特爾至強(qiáng)處理器這架引擎中，還集成了一套AVX浮點(diǎn)計(jì)算指令集，它有增強(qiáng)的數(shù)據(jù)重排能力，可以更有效地存儲(chǔ)、讀取數(shù)據(jù)。葉理燈和他的團(tuán)隊(duì)發(fā)現(xiàn)：在UCloud提供的公共云服務(wù)中，很多虛擬云主機(jī)僅僅用到簡(jiǎn)單指令集，而沒(méi)有發(fā)揮AVX的強(qiáng)大能力。因此，他們和英特爾的工程師一起，在算法層面，利用各個(gè)虛擬機(jī)中此前未能“物盡其用”的英特爾AVX能力，借助其優(yōu)勢(shì)和特性，優(yōu)化它在UCloud AI在線服務(wù)中的應(yīng)用表現(xiàn)，滿足AI在線服務(wù)的計(jì)算需求。AI在線服務(wù)時(shí)延成功降低到數(shù)百毫秒，完全滿足UCloud用戶的實(shí)際應(yīng)用需求。

UAI-Inference還和英特爾合作，使用了性能更佳的AI框架——面向英特爾架構(gòu)優(yōu)化的Caffe框架，從而更好地支持英特爾至強(qiáng)處理器產(chǎn)品家族和至強(qiáng)融核TM處理器產(chǎn)品家族，其中集成最新版本的英特爾數(shù)學(xué)核心函數(shù)庫(kù)2017，能更高效地利用英特爾AVX處理能力。

一系列測(cè)試結(jié)果表明，借助面向英特爾架構(gòu)優(yōu)化的Caffe框架，測(cè)試系統(tǒng)的執(zhí)行時(shí)間從最初的37秒縮短至優(yōu)化后的3.6秒，整體執(zhí)行性能提高了10倍以上。UAI-Inference的AI在線服務(wù)效率得到了極大躍升。

換句話說(shuō)，UCloud和英特爾一起，將UAI-Inference的引擎和其控制器的能力充分發(fā)揮出來(lái)，助推這架火箭飛得越來(lái)越快。

（原文鏈接: https://iq.intel.com/artificial-intelligence-teaching-machines-to-learn-like-humans/關(guān)鍵詞 Caffe框架）

▌解決兩大難題，把企業(yè)送上AI火箭

眾多企業(yè)深知搭上AI火箭的重要性，但如果要自己搭建相關(guān)系統(tǒng)，卻面臨兩大難題：

不熟悉AI系統(tǒng)的設(shè)計(jì)、部署和運(yùn)維，AI系統(tǒng)需要多維度的巨大投入，一旦選型失敗，就會(huì)面臨高昂的成本損失。

即便初始選型正確，AI仍會(huì)帶來(lái)巨大成本開(kāi)支，侵蝕企業(yè)的總體TCO。

這兩大難題正是UAI-Inference想要解決的痛點(diǎn)?；诖笠?guī)模分布式計(jì)算平臺(tái)，它提供了“兩步走”時(shí)的部署模式。用戶先按照UCloud提供的SDK工具包完成相關(guān)準(zhǔn)備工作，打包完成任務(wù)的在線部署后，就能使用UAI-Inference的PaaS平臺(tái)完成自動(dòng)化的管理和維護(hù)，同時(shí)還保證了平臺(tái)數(shù)據(jù)的安全性。

葉理燈說(shuō)：“UAI-Inference給用戶帶來(lái)的最大優(yōu)勢(shì)，就是省去了部署時(shí)的大量繁瑣工作，讓用戶可以將寶貴資源聚焦在自身業(yè)務(wù)上。”

(圖片來(lái)源: https://iq.intel.com/artificial-intelligence-teaching-machines-to-learn-like-humans/ 關(guān)鍵詞: Artificial Intelligence machine )

現(xiàn)在，UAI-Inference已經(jīng)可以在圖像識(shí)別、機(jī)器學(xué)習(xí)等多個(gè)AI領(lǐng)域滿足企業(yè)用戶的需求。一些人臉表情識(shí)別應(yīng)用的實(shí)踐檢驗(yàn)證明：基于英特爾AVX支持的UAI-Inference，完全具備了與傳統(tǒng)方案相媲美的能力，成效出色?！拔覀兊哪繕?biāo)是幫助用戶像使用云主機(jī)、云存儲(chǔ)這些成熟的云產(chǎn)品一樣使用AI在線服務(wù)?！比~理燈說(shuō)。

當(dāng)火箭進(jìn)入太空之后，進(jìn)入失重狀態(tài)的宇航員可以在火箭中自由漂浮。有朝一日，AI這架火箭也必將讓人類(lèi)從很多繁瑣的勞動(dòng)中解放出來(lái)，讓我們自由自在，享受更多自由。