聯(lián)想智能邊緣計(jì)算如何在產(chǎn)業(yè)AI實(shí)踐中顯身手

AI技術(shù)的產(chǎn)業(yè)化落地，是如今社會各界共同關(guān)注的大事，同時(shí)也是新基建的核心價(jià)值轉(zhuǎn)化方式。但在逐步推進(jìn)的AI產(chǎn)業(yè)化落地過程里，會在實(shí)踐中發(fā)現(xiàn)一系列問題。企業(yè)場景中不僅要面對技術(shù)與理論的對接，同時(shí)也需要解決一系列的產(chǎn)業(yè)化、工程化問題。比如說，在AI的產(chǎn)業(yè)化進(jìn)程里，一個(gè)重要支撐點(diǎn)就是邊緣計(jì)算，以及基于邊緣算力產(chǎn)生的邊緣智能。

邊緣場景坐落于云邊之間，用其獨(dú)特的產(chǎn)業(yè)特性支撐智能化落地。在AI進(jìn)入行業(yè)的實(shí)踐中，大量工作都不能僅僅依靠端側(cè)或者云側(cè)計(jì)算來完成，邊緣場景的價(jià)值就在于其靈活、可定制的特點(diǎn)。然而在產(chǎn)業(yè)現(xiàn)實(shí)中，邊緣智能經(jīng)常會變成一個(gè)X維度——充斥著技術(shù)限制與產(chǎn)業(yè)不確定性，甚至變成AI落地的阻力。從某種意義上來說，解決AI落地的問題，必須讓邊緣場景的不確定性溶解掉。

而今，面向邊緣的行業(yè)沖擊正在被不斷發(fā)起。10月28日，2020年聯(lián)想創(chuàng)新科技大會(Tech World 2020)在線上舉辦。今年的Tech World聚焦新基建與產(chǎn)業(yè)智能化落地，給出了從數(shù)據(jù)中心到智慧城市、邊緣計(jì)算、機(jī)器人等一系列創(chuàng)新解決方案。我們的故事就要從Tech World中關(guān)于邊緣計(jì)算與機(jī)器人的那部分說起，看看聯(lián)想智能邊緣計(jì)算如何在產(chǎn)業(yè)AI實(shí)踐中，完成了一次奇妙的拉伸運(yùn)動(dòng)。

邊緣桎梏

邊緣計(jì)算并不是一個(gè)新的概念，早在2003年IBM與AKAMAI就提出了配合云服務(wù)的邊緣計(jì)算概念。其主要產(chǎn)業(yè)設(shè)想是在云計(jì)算與端側(cè)設(shè)備之間，相對靠近數(shù)據(jù)的一側(cè)施加一個(gè)計(jì)算系統(tǒng)。讓更強(qiáng)調(diào)實(shí)時(shí)性、高效計(jì)算的任務(wù)可以就近響應(yīng)，同時(shí)也不必給端側(cè)設(shè)備加入過重的計(jì)算負(fù)擔(dān)。邊緣計(jì)算可以說是云與端之間的靈活配置方案。而在AI成為產(chǎn)業(yè)場景的主要需求時(shí)，邊緣計(jì)算以及基于其實(shí)現(xiàn)的邊緣智能變得格外重要。因?yàn)楸姸郃I任務(wù)的特性都是需求實(shí)時(shí)化反饋。所以工業(yè)級的低時(shí)延智能化，必須建立在完善的邊緣場景基礎(chǔ)上。

邊緣場景在AI體系中的價(jià)值，是用相對靈活、多樣的形式，讓AI的流通性更加適配真實(shí)產(chǎn)業(yè)場景。換言之，靈動(dòng)地突破限制本就是邊緣的意義。但在真實(shí)的產(chǎn)業(yè)場景里，現(xiàn)實(shí)往往與想象不同，本應(yīng)該靈動(dòng)的邊緣智能，往往攜帶了一系列固化的障礙，甚至把邊緣場景變成了邊緣桎梏。比如說：

1、我們知道，云計(jì)算場景中存在虛擬機(jī)與容器的差異。而邊緣場景中不同任務(wù)需要用虛擬機(jī)或者容器技術(shù)來實(shí)現(xiàn)，就會導(dǎo)致不同的智能化任務(wù)無法獲得架構(gòu)上的一致性。2、邊緣場景的特殊性，導(dǎo)致其存算條件有限。這導(dǎo)致很多在云端可以完成的AI算法，無法在邊緣場景里保持性能與架構(gòu)的完整性，其后果就是邊緣側(cè)經(jīng)常是“打折后”的算法，無法滿足真實(shí)的產(chǎn)業(yè)需求。3、邊緣場景的特殊性，經(jīng)常讓具體的產(chǎn)業(yè)需求無法找到合適的設(shè)備。而利用原有設(shè)備就會限制AI的能力發(fā)揮，最終導(dǎo)致眾多任務(wù)無法得到有效滿足。

這些產(chǎn)業(yè)問題，讓本應(yīng)靈動(dòng)如水的邊緣智能陷入到了眾多靜態(tài)僵局里，導(dǎo)致其在真實(shí)應(yīng)用中成本高企，模型聯(lián)動(dòng)能力差，制造了不少“智能孤島”。而聯(lián)想，準(zhǔn)備利用全新的獨(dú)創(chuàng)技術(shù)，拉伸被困在桎梏中的邊緣。

智能如水

在去年的Tech World中，聯(lián)想發(fā)布了“端邊云網(wǎng)智”戰(zhàn)略布局，其中每個(gè)部分都積累了聯(lián)想眾多技術(shù)創(chuàng)新與產(chǎn)業(yè)實(shí)踐成果。而聚焦在邊緣計(jì)算這個(gè)領(lǐng)域，聯(lián)想的領(lǐng)導(dǎo)力主要體現(xiàn)在三個(gè)層次：邊緣設(shè)備、邊緣架構(gòu)與邊緣智能。其中設(shè)備環(huán)節(jié)是聯(lián)想長時(shí)間以來的優(yōu)勢，在邊緣計(jì)算的產(chǎn)業(yè)變局中，我們或許可以更多聊聊聯(lián)想在架構(gòu)與智能中帶來的改變。需要注意的是，架構(gòu)與智能都是非常廣泛的議題，一時(shí)無法盡說。我們以聯(lián)想的兩項(xiàng)代表性技術(shù)創(chuàng)新為基礎(chǔ)，審視一下邊緣計(jì)算如何真正實(shí)現(xiàn)靈活與彈性。

上面說到，容器與虛擬機(jī)的IT架構(gòu)邊界問題，已經(jīng)成為了眾多產(chǎn)業(yè)智能化項(xiàng)目面臨的障礙。傳統(tǒng)的云計(jì)算架構(gòu)本身不為AI而生，導(dǎo)致眾多AI需求無法被滿足。為了滿足更加擴(kuò)展、強(qiáng)化的云邊端架構(gòu)，聯(lián)想研發(fā)了邊緣計(jì)算平臺LECP (Lenovo Edge Computing Platform)，它能夠和聯(lián)想的各種邊緣設(shè)備深度融合，為邊緣場景下的業(yè)務(wù)提供網(wǎng)絡(luò)及算力實(shí)時(shí)動(dòng)態(tài)的感知調(diào)度，以及統(tǒng)一自主的運(yùn)維管理。

其中有一項(xiàng)關(guān)鍵技術(shù)，能夠解決虛擬機(jī)與容器的架構(gòu)邊界問題——混合輕量級虛擬化引擎。

一般意義上來說，虛擬機(jī)和容器技術(shù)是是由兩套獨(dú)立的虛擬化堆棧來分別實(shí)現(xiàn)，這就導(dǎo)致虛擬化開銷大、資源利用率低，并且不能混合編排。而混合輕量級虛擬化引擎，就能夠?qū)崿F(xiàn)虛擬機(jī)和容器在虛擬化引擎層深度融合。僅通過一個(gè)虛擬化可執(zhí)行程序，就可以同時(shí)虛擬出輕量級虛擬機(jī)和安全容器，有效降低了虛擬化開銷，縮短了啟動(dòng)時(shí)間，從而打破了虛擬機(jī)與容器的隔膜，創(chuàng)造了適配邊緣場景中AI任務(wù)的一體化架構(gòu)。

我們可以把混合輕量級虛擬化引擎技術(shù)，想象成能夠打通不同池塘的水渠。通過建立新的水系，智能任務(wù)所需的虛擬化基礎(chǔ)被重構(gòu)，從孤立走向流動(dòng)和融通。而在AI領(lǐng)域，我們說到邊緣智能的主要問題，是邊緣側(cè)的智能模型要經(jīng)過裁剪，無法與云端保持一致。為了解決這個(gè)“邊緣縮水”問題，聯(lián)想首創(chuàng)了漸近式模型優(yōu)化技術(shù)。

這項(xiàng)技術(shù)讓邊緣側(cè)在對AI模型進(jìn)行裁剪時(shí)，可以自適應(yīng)調(diào)整AI模型的裁剪比例，根據(jù)場景需求，實(shí)現(xiàn)漸進(jìn)式的優(yōu)化模型。并且在模型下發(fā)到邊緣側(cè)之后，可以通過AI任務(wù)協(xié)同計(jì)算來實(shí)現(xiàn)云邊端的資源一體化。模型通過感知資源池的總量，動(dòng)態(tài)調(diào)整不同場景的計(jì)算分布，讓邊緣實(shí)現(xiàn)與云、端的一致。漸近式模型優(yōu)化技術(shù)，在另一個(gè)層面展現(xiàn)了“水”的特質(zhì)：平衡。它通過主動(dòng)識別場景需求，協(xié)同云邊端場景的模型建材與計(jì)算分布，最終達(dá)成整體水面的穩(wěn)定。

如水般流動(dòng)，似水般平衡，架構(gòu)與智能上的技術(shù)創(chuàng)新，搭配聯(lián)想的設(shè)備能力，讓邊緣場景中的AI可以沖破各種界限，實(shí)現(xiàn)靈動(dòng)如水的理想狀態(tài)。邊緣計(jì)算體系中AI任務(wù)的高度靈活，其價(jià)值在于讓不同模型、不同任務(wù)目標(biāo)的智能應(yīng)用實(shí)現(xiàn)一致，讓智能與使用場景融為一體。我們可以從一個(gè)名叫“晨星”的機(jī)器人那里，理解其中的邏輯。

機(jī)器之融

讓我們把鏡頭切到用戶側(cè)，從實(shí)用的角度看一下這兩項(xiàng)邊緣場景中的技術(shù)創(chuàng)新如何起到作用。聯(lián)想推出的晨星機(jī)器人，是一個(gè)能夠幫助用戶立體感知遠(yuǎn)程環(huán)境，并且與之實(shí)時(shí)交互的機(jī)器人系統(tǒng)。它的最大特點(diǎn)是支持用戶通過遠(yuǎn)程AR設(shè)備，通過機(jī)器人的攝像頭同步感知環(huán)境，并且基于感知信息向機(jī)器人下達(dá)控制指令。尤其重要的是，機(jī)器人可以通過人類用戶的操作來學(xué)習(xí)其中的精髓，進(jìn)而實(shí)現(xiàn)“示范學(xué)習(xí)”能力，進(jìn)而自行完成任務(wù)。

這樣看來，晨星機(jī)器人非常像是人類的“學(xué)徒”。通過5G網(wǎng)絡(luò)與AR技術(shù)實(shí)現(xiàn)人類與機(jī)器人的共看、共感、共知，進(jìn)而通過AI技術(shù)來實(shí)現(xiàn)對人類智慧的承接。因此晨星機(jī)器人不僅能有效完成高危場景代表的遠(yuǎn)程機(jī)械操作需求，還能從人類那里學(xué)到經(jīng)驗(yàn)，自行完成復(fù)雜精細(xì)的智能化作業(yè)。而晨星機(jī)器人上崗的第一批工作中，有一項(xiàng)非常能夠體現(xiàn)聯(lián)想智能邊緣計(jì)算的價(jià)值——大型商用機(jī)噴涂。

這是一個(gè)我們?nèi)粘２惶煜さ膷徫?，但對于航空產(chǎn)業(yè)來說至關(guān)重要。在大型商用機(jī)制造中，飛機(jī)需要噴涂的零部件高達(dá)數(shù)百種。如果用傳統(tǒng)的自動(dòng)化噴涂，針對一種零部件的機(jī)械臂噴涂調(diào)試需要花費(fèi)幾周的時(shí)間；而如果依靠人工噴涂，又很可能導(dǎo)致工人手法存在差異，產(chǎn)業(yè)一致性很難保證。順著這個(gè)邏輯我們就會發(fā)現(xiàn)，商用機(jī)噴涂的最佳解決方式，是讓有經(jīng)驗(yàn)的工人快速教會機(jī)器來完成任務(wù)——在聯(lián)想智能邊緣計(jì)算技術(shù)的幫助下，晨星機(jī)器人就做到了這點(diǎn)。

在真實(shí)的作業(yè)場景中，晨星機(jī)器人首先對整個(gè)車間進(jìn)行空間掃描感知，數(shù)據(jù)在邊緣側(cè)的虛擬機(jī)上完成實(shí)時(shí)三維建圖與渲染，并通過容器化的SLAM技術(shù)，導(dǎo)航定位，移動(dòng)至指定的噴漆間。

機(jī)器人的雙目立體相機(jī)，將操作臺的工件和周邊情況實(shí)時(shí)采集到邊緣服務(wù)器，邊緣服務(wù)器隨后將3D視頻流實(shí)時(shí)推送到AR眼鏡。而工人通過AR眼鏡和手柄遠(yuǎn)程操縱機(jī)器人同步執(zhí)行噴漆，手感完全等同于親臨現(xiàn)場。這樣操作一次自然示教之后，該零部件的噴漆能力就保存在了邊緣側(cè)，之后對于同樣規(guī)格的零部件，機(jī)器人就能實(shí)現(xiàn)自主噴涂。此外，機(jī)器人還能進(jìn)行基于計(jì)算機(jī)視覺的噴涂質(zhì)量自動(dòng)檢測。

在這個(gè)“人類教導(dǎo)機(jī)器人”的神奇場景里，邊緣計(jì)算體系充當(dāng)著關(guān)鍵作用。而上述兩項(xiàng)技術(shù)創(chuàng)新又蘊(yùn)藏其中。比如說，飛機(jī)零部件噴漆，既需要虛擬機(jī)來支持AR模型渲染，也需要容器來支持機(jī)器人噴涂、漆面檢測等應(yīng)用。如果依靠傳統(tǒng)的堆棧技術(shù)，會導(dǎo)致系統(tǒng)開銷大，應(yīng)用之間數(shù)據(jù)轉(zhuǎn)發(fā)性能低。而在聯(lián)想的混合輕量級虛擬化引擎支持像，就能夠在一臺機(jī)器中同時(shí)提供輕量級虛擬機(jī)和安全容器承載這些應(yīng)用，實(shí)現(xiàn)二者深度融合。

在剛剛所說的噴涂質(zhì)量檢測環(huán)節(jié)，需要將深度學(xué)習(xí)網(wǎng)絡(luò)模型壓縮部署在邊緣側(cè)。這里聯(lián)想的漸進(jìn)式模型優(yōu)化技術(shù)就能夠帶來價(jià)值，通過漸近式搜索裁剪比，可以實(shí)現(xiàn)模型精度和算力資源的細(xì)粒度匹配，讓復(fù)雜模型更好地部署在邊緣側(cè)。通過邊緣架構(gòu)與邊緣智能的創(chuàng)新，機(jī)器人可以解決眾多產(chǎn)業(yè)中真實(shí)存在的障礙，進(jìn)而實(shí)現(xiàn)人類智慧與AI的深度融合。原本構(gòu)成產(chǎn)業(yè)智能化不確定性的X維度，在技術(shù)創(chuàng)新之下被消解無蹤，達(dá)成了真正的機(jī)器之融。

基于邊緣計(jì)算的創(chuàng)新，復(fù)雜的人工經(jīng)驗(yàn)可以與智能化體系更輕易融合；不同目標(biāo)的AI任務(wù)能夠具備更高強(qiáng)度的協(xié)調(diào)性；工業(yè)場景中云計(jì)算體系與本地機(jī)器體系可以具有更好一致性。這些價(jià)值將給AI落地帶來很多改變，比如機(jī)器人的智能水平提高、成本降低；再比如場景化的整體智能指數(shù)上升，企業(yè)可以更好根據(jù)需求定制智能化系統(tǒng)；大型智能化任務(wù)可以獲得低時(shí)延、高可靠的工業(yè)級特性。

從大型商用機(jī)的零部件噴涂，到到京東智慧園區(qū)，洛陽5G智慧龍門景區(qū)，聯(lián)想智能邊緣計(jì)算的突破開始成為智能化技術(shù)落地的新支點(diǎn)。聯(lián)想對邊緣智能完成的“拉伸運(yùn)動(dòng)”，消解了AI落地的諸多不確定性，為新基建價(jià)值轉(zhuǎn)化找到了更清晰的技術(shù)路標(biāo)。

fqj