芮勇:智能邊緣計(jì)算,讓AI在你身邊

10月28日，以“聯(lián)想智慧中國(guó)”為主題的2020聯(lián)想創(chuàng)新科技大會(huì)拉開帷幕。聯(lián)想高級(jí)副總裁芮勇發(fā)表“智能邊緣計(jì)算：讓AI在你身‘邊‘”演講。芮勇表示，邊緣計(jì)算并不“邊緣”，在行業(yè)智能化新需求的拉動(dòng)下，“邊緣”正在變得越來越“主流”。

此外，芮勇從邊緣智能、邊緣基礎(chǔ)架構(gòu)、邊緣硬件三個(gè)方面介紹了聯(lián)想研發(fā)的智能邊緣計(jì)算的技術(shù)，并強(qiáng)調(diào)道，聯(lián)想的智能邊緣計(jì)算技術(shù)的應(yīng)用遠(yuǎn)遠(yuǎn)不止智能制造，還為京東智慧園區(qū)，洛陽5G智慧龍門景區(qū)等提供低時(shí)延、高可靠的智能服務(wù)?！拔蚁嘈牛悄苓吘売?jì)算，將有力地推動(dòng)新基建的發(fā)展，促進(jìn)人工智能變成一種普惠的資源，滲透進(jìn)各行各業(yè)。

演講全文如下：

參加聯(lián)想創(chuàng)新科技大會(huì)的朋友們，大家早上好！

我是芮勇，很高興能在這里和大家分享聯(lián)想最新的技術(shù)創(chuàng)新成果。2020已經(jīng)是一個(gè)充滿智能的新時(shí)代，而聯(lián)想呢，正在成為智能化變革的引領(lǐng)者和賦能者！

剛才，元慶在演講中提到了聯(lián)想“端邊云網(wǎng)智”的戰(zhàn)略布局，并指出，聯(lián)想已經(jīng)積累了眾多的“建材”與“模塊”，致力于打造行業(yè)智能化的解決方案。

隨著人工智能和5G等新興技術(shù)的迅猛發(fā)展，智能化的應(yīng)用場(chǎng)景變得越來越豐富，新的解決方案不斷涌現(xiàn)。這些新興解決方案和應(yīng)用場(chǎng)景對(duì)實(shí)時(shí)計(jì)算能力的要求不斷提高，于是，智能邊緣計(jì)算就應(yīng)運(yùn)而生了。所以我今天給大家匯報(bào)的主題是：智能邊緣計(jì)算：讓AI在你身“邊”。這里的“邊”就代表邊緣計(jì)算，我們要讓計(jì)算和智能下沉到行業(yè)場(chǎng)景，更靠近數(shù)據(jù)產(chǎn)生的地方。

邊緣計(jì)算并不“邊緣”，在行業(yè)智能化新需求的拉動(dòng)下，“邊緣”正在變得越來越“主流”。它也是聯(lián)想技術(shù)戰(zhàn)略布局的重點(diǎn)領(lǐng)域之一。聯(lián)想在邊緣計(jì)算領(lǐng)域的領(lǐng)導(dǎo)力包含三個(gè)層次，首先是邊緣計(jì)算設(shè)備這一層，設(shè)備一直是聯(lián)想的傳統(tǒng)強(qiáng)項(xiàng)，產(chǎn)品布局非常豐富，我就不展開講了。

今天，我想重點(diǎn)介紹硬件設(shè)備之上的這兩層，這兩層的核心技術(shù)，構(gòu)成了聯(lián)想智能邊緣計(jì)算的技術(shù)基石。

首先我們來看邊緣基礎(chǔ)架構(gòu)層。就像我剛才所介紹的那樣，現(xiàn)在越來越多的行業(yè)應(yīng)用，需要更低的時(shí)延、更靈活的部署、更強(qiáng)的適應(yīng)性、更安全的數(shù)據(jù)隱私保護(hù)。在這種情況下，傳統(tǒng)的云的基礎(chǔ)架構(gòu)可能無法滿足需求了，我們需要有一個(gè)更加擴(kuò)展的、強(qiáng)化的基礎(chǔ)架構(gòu)，從云延伸到邊。聯(lián)想研發(fā)了業(yè)界領(lǐng)先的邊緣計(jì)算平臺(tái)LECP （Lenovo Edge Computing Platform），它能夠和聯(lián)想的各種邊緣設(shè)備深度融合，為邊緣場(chǎng)景下的業(yè)務(wù)提供網(wǎng)絡(luò)及算力實(shí)時(shí)動(dòng)態(tài)的感知調(diào)度，以及統(tǒng)一自主的運(yùn)維管理。

當(dāng)然，光有邊緣基礎(chǔ)架構(gòu)，還是不夠的。我們還需要最上面這一層，也就是邊緣智能層，來支持各行各業(yè)智能化的應(yīng)用和需求。聯(lián)想研發(fā)的邊緣AI平臺(tái)，能基于邊緣設(shè)備和場(chǎng)景數(shù)據(jù)訓(xùn)練出適配場(chǎng)景的AI模型，并實(shí)現(xiàn)模型在云-邊-端之間的協(xié)同推理，能夠更有效地發(fā)揮邊緣側(cè)的算力，助力實(shí)現(xiàn)更廣泛的場(chǎng)景智能。

這兩層里面有很多關(guān)鍵的技術(shù)，由于時(shí)間的關(guān)系，我就在每一層里挑一個(gè)關(guān)鍵技術(shù)來介紹一下。

我們先來看一下邊緣基礎(chǔ)架構(gòu)層中的一項(xiàng)關(guān)鍵技術(shù)——混合輕量級(jí)虛擬化引擎。

當(dāng)云計(jì)算能力下沉到行業(yè)場(chǎng)景時(shí)，往往存在設(shè)備空間、耗電量等諸多限制因素，進(jìn)而限制了計(jì)算存儲(chǔ)等基礎(chǔ)資源規(guī)模，因此需要運(yùn)行其上的邊緣計(jì)算平臺(tái)向輕量化發(fā)展。另一方面，邊緣平臺(tái)上仍然需要承載原來云端所承載的多種邊緣智能應(yīng)用，而這些應(yīng)用有些需要跑在容器上，有些需要跑在虛擬機(jī)上。如何滿足這些多樣化的虛擬化需求？傳統(tǒng)的虛擬機(jī)及容器通常是由兩套獨(dú)立的虛擬化堆棧來分別實(shí)現(xiàn)。但這樣問題來了，這樣的虛擬機(jī)和容器的兩套方案會(huì)導(dǎo)致虛擬化開銷大、資源利用率低，并且不能混合編排和管理。為此，聯(lián)想在業(yè)界首創(chuàng)了混合輕量級(jí)虛擬化引擎，實(shí)現(xiàn)了虛擬機(jī)和容器在虛擬化引擎層的深度融合。僅通過一個(gè)虛擬化可執(zhí)行程序，就可以同時(shí)虛擬出輕量級(jí)虛擬機(jī)和安全容器，有效降低了虛擬化開銷，縮短了啟動(dòng)時(shí)間。效率和性能大幅提升。

我們?cè)倏纯催吘壷悄軐印Ｊ紫?，?lián)想首創(chuàng)了漸近式模型優(yōu)化技術(shù)。云側(cè)模型為追求精度一般體積較大，在邊緣側(cè)執(zhí)行時(shí)，需要根據(jù)可用資源進(jìn)行模型裁剪。以深度學(xué)習(xí)卷積神經(jīng)網(wǎng)絡(luò)模型為例，該技術(shù)可以自適應(yīng)調(diào)整卷積層的裁剪比例，根據(jù)場(chǎng)景漸進(jìn)式優(yōu)化模型。模型下發(fā)到邊緣側(cè)之后，我們的AI任務(wù)協(xié)同計(jì)算技術(shù)不是把云邊端看成是分割開來的資源，而是把云邊端視為一個(gè)統(tǒng)一的資源池，通過感知資源池中的計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)總體情況，動(dòng)態(tài)調(diào)整任務(wù)在云邊端上的計(jì)算分布。此外，云側(cè)訓(xùn)練好的模型不可能預(yù)知邊緣側(cè)特有的數(shù)據(jù)特征。為此，我們使用終身學(xué)習(xí)技術(shù)更新預(yù)加載模型的參數(shù)，使模型更好地適配場(chǎng)景。

講完了這些核心技術(shù)，接下來，我想通過商飛大飛機(jī)制造的一個(gè)實(shí)例，為大家具體介紹一下聯(lián)想智能邊緣計(jì)算在行業(yè)中的應(yīng)用。

這里呢，是商飛的飛機(jī)零部件噴涂車間。飛機(jī)需要噴漆的零件高達(dá)數(shù)百種，在傳統(tǒng)自動(dòng)化噴涂實(shí)踐中，機(jī)械臂的示教和調(diào)試要花費(fèi)幾周的時(shí)間；但如果采用人工噴漆，質(zhì)量會(huì)依賴于工人的操作手法，也很難保證一致性。

這些棘手的問題，在聯(lián)想智能邊緣計(jì)算的助力下，迎刃而解。聯(lián)想打造的晨星機(jī)器人，在強(qiáng)大的邊緣算力和智能支持下，能讓工人通過機(jī)器人精準(zhǔn)地執(zhí)行遠(yuǎn)程噴漆工作?，F(xiàn)在請(qǐng)大家看演示。

首先，機(jī)器人會(huì)對(duì)整個(gè)車間進(jìn)行空間掃描感知，數(shù)據(jù)在邊緣側(cè)的虛擬機(jī)上實(shí)時(shí)三維建圖和渲染，并通過容器化的SLAM技術(shù)，導(dǎo)航定位，移動(dòng)至指定的噴漆間。機(jī)器人的雙目立體相機(jī)將操作臺(tái)的工件和周邊情況實(shí)時(shí)采集到邊緣服務(wù)器。邊緣服務(wù)器隨后將3D視頻流實(shí)時(shí)推送到AR眼鏡。而工人通過AR眼鏡和手柄遠(yuǎn)程操縱機(jī)器人同步執(zhí)行噴漆，手感完全等同于親臨現(xiàn)場(chǎng)。這樣操作一次自然示教之后，該零部件的噴漆能力就保存在了邊緣側(cè)，之后對(duì)于同樣規(guī)格的零部件，機(jī)器人就能實(shí)現(xiàn)自主噴涂。此外，機(jī)器人還能進(jìn)行基于計(jì)算機(jī)視覺的噴涂質(zhì)量自動(dòng)檢測(cè)。

我們?cè)賮砜纯?，剛才提到的幾?xiàng)關(guān)鍵技術(shù)是如何賦能這個(gè)場(chǎng)景的。飛機(jī)零部件噴漆，既需要虛擬機(jī)來支持AR模型渲染，也需要容器來支持機(jī)器人噴涂、漆面檢測(cè)等應(yīng)用。傳統(tǒng)做法往往需要兩臺(tái)以上機(jī)器運(yùn)行不同的虛擬化堆棧，分別提供虛擬機(jī)及容器資源。那問題來了，這樣的兩套方案使得系統(tǒng)開銷增大，應(yīng)用之間數(shù)據(jù)轉(zhuǎn)發(fā)性能低，無法滿足多終端實(shí)時(shí)并發(fā)渲染的時(shí)延指標(biāo)。怎么辦呢，聯(lián)想的混合輕量級(jí)虛擬化引擎能在單臺(tái)機(jī)器上同時(shí)提供輕量級(jí)虛擬機(jī)和安全容器承載這些應(yīng)用，實(shí)現(xiàn)二者深度融合，有效增加了系統(tǒng)資源利用率，最大化提升了模型渲染和機(jī)器人不同任務(wù)之間的轉(zhuǎn)發(fā)處理性能。

此外，噴涂質(zhì)量檢測(cè)需要將深度學(xué)習(xí)網(wǎng)絡(luò)模型壓縮部署在邊緣側(cè)。傳統(tǒng)方法一般使用固定裁剪比，邊緣算力無法得到充分利用。而聯(lián)想創(chuàng)新的模型優(yōu)化技術(shù)，通過漸近式搜索裁剪比，實(shí)現(xiàn)了模型精度和算力資源的細(xì)粒度匹配，讓復(fù)雜模型得以更好地在邊緣優(yōu)化部署，實(shí)現(xiàn)了更高效的質(zhì)量檢測(cè)。

另外，在噴涂質(zhì)量檢測(cè)時(shí)，除了常見的缺陷，總是會(huì)存在檢測(cè)范圍外的新的缺陷種類，云端下發(fā)的預(yù)訓(xùn)練模型對(duì)此無法應(yīng)對(duì)。為此，我們通過終身學(xué)習(xí)技術(shù)在邊緣側(cè)持續(xù)更新模型，讓機(jī)器人學(xué)會(huì)處理新問題，擴(kuò)展新的檢測(cè)能力。

聯(lián)想的智能邊緣計(jì)算技術(shù)的應(yīng)用遠(yuǎn)遠(yuǎn)不止智能制造。它還為京東智慧園區(qū)，洛陽5G智慧龍門景區(qū)等提供低時(shí)延、高可靠的智能服務(wù)。我相信，智能邊緣計(jì)算，將有力地推動(dòng)新基建的發(fā)展，促進(jìn)人工智能變成一種普惠的資源，滲透進(jìn)各行各業(yè)。一座座智慧工廠，一個(gè)個(gè)智慧園區(qū)將不斷涌現(xiàn)，人類的生活和生產(chǎn)將更加智能、便捷、和高效。智能，為一切可能！
責(zé)任編輯：YYX