2021 Kubernetes on AI & Edge Day圓滿舉行 共探邊緣云融合

2021年12月11日－12日，由Linux基金會、LF AI &DATA、LF Edge、CNCF、LFN等開源社區(qū)聯(lián)合舉辦，開源科技OSTech和西麗湖人才服務(wù)中心協(xié)辦的Kubernetes on AI & Edge Day在深圳召開。會中，大咖云集、干貨滿滿。對目前云原生、AI、邊緣計(jì)算、開放網(wǎng)絡(luò)以及開源社區(qū)的現(xiàn)狀及未來進(jìn)行了深度剖析解讀，為現(xiàn)場以及線上收看直播的觀眾奉獻(xiàn)了十?dāng)?shù)場精彩紛呈的主題分享。

LF AI & DATA基金會主席堵俊平先生致辭

LF AI &DATA基金會在過去三年中，共有383個(gè)組織參與了代碼提交，見證了開源社區(qū)的壯大與成長。同時(shí)也在面臨很多挑戰(zhàn)，例如算力、人才、建立信任、數(shù)據(jù)隱私等等。需要大家攜手并進(jìn)，為開源社區(qū)的發(fā)展一起努力。

CNCF亞太區(qū)首席戰(zhàn)略官陳澤輝致辭

疫情的出現(xiàn)讓更多的開源社區(qū)，正在以一種新使命感向前推進(jìn)。越來越多的社區(qū)在獲得持續(xù)性增長，交付質(zhì)量和速度也有著明顯提升。并分享多個(gè)成功案例。再次驗(yàn)證了那句經(jīng)典老話“開源不是零和游戲，你在幫助別人的同時(shí)也在幫助自己”。

尖峰對話

LF AI &DATA基金會主席堵俊平先生、CNCF亞太區(qū)首席戰(zhàn)略官陳澤輝

兩位共同探討在數(shù)字時(shí)代云原生與AI開源社區(qū)的角色和未來。他們認(rèn)為在當(dāng)下，各開源社區(qū)應(yīng)進(jìn)一步加強(qiáng)協(xié)作、深度融合、互相賦能，讓開源社區(qū)更加強(qiáng)大。最后，兩位大咖還就云原生、AI兩者之間的關(guān)系展開討論。他們認(rèn)為，兩者一個(gè)偏底層創(chuàng)新，另一個(gè)則偏應(yīng)用層，并不是分割、對立，而應(yīng)該互補(bǔ)。

華為黃之鵬：MindSpore Community Operation

華為昇騰開源生態(tài)總監(jiān)黃之鵬

目前MindSpore正在逐漸成為面向全球的中國第一熱度人工智能開源社區(qū)。他堅(jiān)信，想要一個(gè)社區(qū)能健康成長，必須能讓每個(gè)用戶擁有足夠的幸福感。這又體現(xiàn)在技術(shù)、文化等多個(gè)方面。同時(shí)，通過多渠道推廣分享、公正的管理等扽，才能讓開源社區(qū)快速健康的發(fā)展。精彩的內(nèi)容也得到了眾多行業(yè)大咖與開源社區(qū)同學(xué)的一致贊同。

OPPO：ChubaoFS云原生存儲平臺落地經(jīng)驗(yàn)

OPPO分布式存儲架構(gòu)師常亮

作為首個(gè)國產(chǎn)開源存儲系統(tǒng)，ChubaoFS已經(jīng)在眾多大型企業(yè)的業(yè)務(wù)場景中得以應(yīng)用。借助開源，也讓ChubaoFS擁有更強(qiáng)的包容和開放性?？蛇M(jìn)一步提升元數(shù)據(jù)性能，降低運(yùn)維成本。

K8s超大規(guī)模機(jī)器學(xué)習(xí)平臺實(shí)踐和基于ONNX Runtime訓(xùn)練加速

lead of AI product in Azure Office of CTO Asia Henry Zeng

As AI and ML demands and application keep booming， the requirements for AI platform is growing to facilitate AI practitioners to experiment with state-of-art ideas， build and deploy production ready models to create business values. A highly stable， scalable， resilient and user friendly AI platform will accelerate the research and landing of AI. Furthermore， with the advancement of large foundation model， training performance becomes critical for both time to value and carbon emission.

In this presentation， we will share the experience and best practices on how we develop and operate a super large scale and highly reliable GPU and CPU AI platform based on Kubernetes， including，

1.Stability of super scale Kubernetes clusters on nodes， service and applications

2.Scheduler for different AI workloads to balance utilization and fairness

3.Best practice to run large scale distributed AI workload

4.Accelerate large foundation model training with ONNX runtime

騰訊：全場景在離線混部系統(tǒng)Caelus項(xiàng)目

騰訊高級工程師陳東東

主流的容器編排在實(shí)際應(yīng)用中會遇到諸多挑戰(zhàn)，例如資源分配不高效、調(diào)度不夠合理等等。在離線混部系統(tǒng)，可以在線作業(yè)運(yùn)行過程中填充離線作業(yè)，來提高資源利用率。但也存在很多難題，系統(tǒng)龐大、組件眾多，需要多團(tuán)隊(duì)配合等等。借助Caelus方案，可以有效提升資源利用率，強(qiáng)化共享能力，滿足更豐富的應(yīng)用需求。

國開啟科：當(dāng)量子計(jì)算遇上人工智能

國開啟科量子技術(shù)（北京）有限公司首席算法工程師 陳健明

量子計(jì)算擁有原生的隨機(jī)數(shù)生成、更快的模型訓(xùn)練、減少優(yōu)化過程時(shí)間復(fù)雜度、處理更復(fù)雜網(wǎng)絡(luò)的優(yōu)點(diǎn)。他認(rèn)為，嘈雜中興量子機(jī)器將成為未來若干年內(nèi)原生量子硬件的主流。而如何在現(xiàn)有經(jīng)典硬件上提高量子模擬器的可擴(kuò)展性及效率，也將成為量子計(jì)算產(chǎn)業(yè)化的主要課題。

華為：基于Volcano的離在線業(yè)務(wù)混部技術(shù)探索

華為昇騰開源生態(tài)總監(jiān)黃之鵬

在目前單集群規(guī)模大、資源冗余大、需求波動大、利用率低的情境下。云原生基礎(chǔ)設(shè)施已成為混部主流方案。借助Volcano混部技術(shù)，可以實(shí)現(xiàn)統(tǒng)一調(diào)度、資源隔離，統(tǒng)一用戶體驗(yàn)。最后對混部技術(shù)未來做簡單展望。

KubeCon論道：AI + 云原生的機(jī)遇與挑戰(zhàn)

LF AI & DATA基金會主席 堵俊平、CNCF亞太區(qū)首席戰(zhàn)略官 陳澤輝、華為昇騰開源生態(tài)總監(jiān) 黃之鵬 Linux Foundation 亞太區(qū)總監(jiān) 楊軒

各位嘉賓就如何強(qiáng)化各協(xié)會之間的合作關(guān)系、開源社區(qū)運(yùn)營中的趣事及云原生與AI之間的關(guān)系作精彩分享。例如：各協(xié)會應(yīng)如何加強(qiáng)合作，怎樣加強(qiáng)生態(tài)聯(lián)系等等。獨(dú)到的觀點(diǎn)贏得與會觀眾熱烈的掌聲。

DAY2

主持人開場

新華三網(wǎng)絡(luò)產(chǎn)品線開源聯(lián)絡(luò)官 馬樂

今天的活動是CNCF、LF Networking、LF Edge三個(gè)社區(qū)的融合，也是來自基金會、運(yùn)營商、廠商等行業(yè)專家們分享觀點(diǎn)的舞臺，更是我們線上線下參與此次活動的每一位社區(qū)伙伴們暢所欲言的最佳平臺。

協(xié)同共進(jìn)：CNCF與開放網(wǎng)絡(luò)和邊緣計(jì)算

CNCF亞太區(qū)首席戰(zhàn)略官 陳澤輝致辭

數(shù)據(jù)顯示，2025年，四分之三的企業(yè)級數(shù)據(jù)在邊緣創(chuàng)建和處理。邊緣計(jì)算、云原生為我們提供了更多的容錯(cuò)率。陳澤輝通過上汽大通的案例，詳細(xì)展示了云原生所帶來的效益提升。未來云原生進(jìn)一步加強(qiáng)與5G融合，勢必帶來更大的收益。

中國移動：從XGVela項(xiàng)目及網(wǎng)絡(luò)云云原生研究中獲得的經(jīng)驗(yàn)

中國移動研究院項(xiàng)目經(jīng)理 趙奇慧

中國移動網(wǎng)絡(luò)云主要承載4G/5G等核心網(wǎng)網(wǎng)元，以虛擬機(jī)為主要基礎(chǔ)設(shè)施形態(tài)，網(wǎng)元虛擬化比例超75%，但存在敏捷性不足等問題。中國移動探索使用云原生理念及技術(shù)解決此類問題，從網(wǎng)元、云平臺、組織流程三方面同步著手挖掘網(wǎng)絡(luò)云云原生演進(jìn)方法，當(dāng)前已在UPF微服務(wù)化及云原生設(shè)計(jì)方面積累經(jīng)驗(yàn)，并沉淀部分網(wǎng)元通用的管理類Telco PaaS能力開源至XGVela項(xiàng)目。中國移動希望進(jìn)一步強(qiáng)化產(chǎn)學(xué)研多方合作，共同在網(wǎng)絡(luò)云中推進(jìn)云原生技術(shù)。

華為：Kubernetes性能優(yōu)化實(shí)踐分享

華為電信云開源軟件專家 梁勝展

通過峰值波動優(yōu)化、 watch 鏈路優(yōu)化、dockershim瓶頸優(yōu)化等等，可以有效解決邊緣場景的多個(gè)痛點(diǎn)。他認(rèn)為，開源社區(qū)是一個(gè)很好的技能學(xué)習(xí)平臺；依托開源軟件，可以迅速補(bǔ)齊產(chǎn)品能力差距。但更重要的是，作為其中一份子，應(yīng)該主動儲備技能，深入了解；不做拿來主義。

中國電信：ONAP意圖驅(qū)動網(wǎng)絡(luò)閉環(huán)自治

中國電信研究院研發(fā)工程師 王棟

隨著電信運(yùn)營商、有線運(yùn)營商、云服務(wù)提供商以及他們的方案提供商對通用自動化平臺需求的增加，隨愿意圖網(wǎng)絡(luò)變得愈發(fā)重要，ONAP項(xiàng)目作為一個(gè)為網(wǎng)絡(luò)運(yùn)營商、云服務(wù)商和企業(yè)的網(wǎng)絡(luò)及邊緣計(jì)算提供編排、管理和自動化服務(wù)的綜合平臺，可以幫助企業(yè)解決諸多難題。目前，中國電信已在隨愿網(wǎng)絡(luò)技術(shù)領(lǐng)域?qū)崿F(xiàn)“學(xué)術(shù)研究－標(biāo)準(zhǔn)制定－國際開源開發(fā)”完整閉環(huán)研發(fā)鏈。未來將繼續(xù)解決跨云、多云的管理。

中國移動：意圖網(wǎng)絡(luò)管理研究

中國移動研究院軟件架構(gòu)師 何克光

進(jìn)一步就意圖網(wǎng)絡(luò)展開討論。他認(rèn)為，意圖網(wǎng)絡(luò)的出現(xiàn)將會加速技術(shù)創(chuàng)新、提升效率、降低成本，最終實(shí)現(xiàn)增加商業(yè)價(jià)值的目的。但目前意圖研究依舊處于初步階段，難點(diǎn)主要在于運(yùn)營商與制造商難以達(dá)成一致、對接口、意圖表達(dá)模型缺乏共識以及缺乏對意圖信息模型和數(shù)據(jù)模型的定義。這些都造成了意圖網(wǎng)絡(luò)研究的緩慢進(jìn)展。目前中國移動正在通過增強(qiáng)功能、應(yīng)用新技術(shù)以及豐富用例，強(qiáng)化意圖研究。最終實(shí)現(xiàn)2025年建立L4級意圖自智網(wǎng)絡(luò)。

ZTE：網(wǎng)絡(luò)質(zhì)量仿真在網(wǎng)絡(luò)自動化應(yīng)用

ZTE的資深網(wǎng)管軟件工程師 黃卓垚

TMF自治網(wǎng)絡(luò)成為目前重要課題，但如何保證系統(tǒng)參與環(huán)節(jié)的正確性，又成為新難題。通過網(wǎng)絡(luò)仿真可以解決難題，但無論離散事件模型還是圖神經(jīng)網(wǎng)絡(luò)模型，都有各自缺點(diǎn)。但圖神經(jīng)網(wǎng)絡(luò)依舊就有更強(qiáng)操作性，中興AI技術(shù)團(tuán)隊(duì)也解決了各類難題，為意圖驅(qū)動的網(wǎng)絡(luò)自動化貢獻(xiàn)了自己的力量。

KubeCon論道：邊緣計(jì)算產(chǎn)業(yè)對話

CNCF亞太區(qū)首席戰(zhàn)略官 陳澤輝、華為首席開源聯(lián)絡(luò)官 任旭東、Linux Foundation 亞太區(qū)總監(jiān) 楊軒

三位就自身從事邊緣+云原生領(lǐng)域的經(jīng)驗(yàn)，展開對目前所面臨的挑戰(zhàn)與機(jī)遇展開討論。就社區(qū)如何幫助開發(fā)者把握住這個(gè)萬億產(chǎn)業(yè)新機(jī)遇和如何幫助他們應(yīng)對挑戰(zhàn)、兩個(gè)開源社區(qū)如何開展合作，兩者整合能激發(fā)怎樣火花作精彩分享。

PPIO：5G時(shí)代的邊緣智能與云邊協(xié)同

PPIO邊緣云首席科學(xué)家、天津大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院教授、博士生導(dǎo)師 王曉飛

在5G時(shí)代，目前AI技術(shù)面臨包括帶寬限制、存儲受限、AI算力受限、時(shí)延等眾多挑戰(zhàn)，邊緣智能開始提上議程，成為解決問題的關(guān)鍵。PPIO邊緣云可實(shí)現(xiàn)廣覆蓋、成本低等目標(biāo)。目前已服務(wù)了包括傳統(tǒng)云廠商、創(chuàng)業(yè)公司等多類別客戶。但目前，復(fù)雜性、動態(tài)性、實(shí)踐性，都是邊云協(xié)同的困難，機(jī)遇與挑戰(zhàn)并存。

EdgeGallery新版本特性以及與eKuiper深度聯(lián)合提供邊緣數(shù)據(jù)流處理服務(wù)

華為邊緣計(jì)算資深技術(shù)專家、EdgeGallery TSC主席、DPDK社區(qū)董事 于洋

EMQ資深軟件工程師 黃濟(jì)泳

EdgeGallery不斷迭代，只為讓5G能力在邊緣觸手可及。全新的F版本中，進(jìn)一步優(yōu)化Edge Native架構(gòu)、E2E邊緣應(yīng)用自助訂購以及開發(fā)集成以及模塊增強(qiáng)。讓EdgeGallery更加易用。作為邊緣流式計(jì)算引擎，LF Edge eKuiper則可以提供輕量化、高性能、易擴(kuò)展、豐富的源和目標(biāo)支持等優(yōu)勢，為我們提供更豐富的應(yīng)用場景。

中國聯(lián)通：5G MEC基礎(chǔ)設(shè)施共建共享關(guān)鍵技術(shù)分析

中國聯(lián)通研究院未來網(wǎng)絡(luò)研究中心移動網(wǎng)室主任 黃蓉

在算力從中心云延展到邊緣，同時(shí)網(wǎng)絡(luò)和算力在邊緣加速融合的當(dāng)下， 移動通信網(wǎng)絡(luò)共建共享已經(jīng)是趨勢。電信運(yùn)營商可提供端到端網(wǎng)絡(luò)SLA保障，互聯(lián)網(wǎng)廠商則擁有深厚的IT技術(shù)基礎(chǔ)及強(qiáng)大的云研發(fā)能力。兩者合作才能形成“統(tǒng)一”的邊緣算力資源池，成為連接萬物，賦能業(yè)務(wù)的社會化信息基礎(chǔ)設(shè)施。目前中國聯(lián)通已取得一定成績，但未來如何實(shí)現(xiàn)真正去中心化依舊值得探討。

KubeEdge：基于KubeEdge的云原生邊緣計(jì)算架構(gòu)設(shè)計(jì)與實(shí)踐

KubeEdge社區(qū)核心開發(fā)者 許世威

目前邊緣計(jì)算難題眾多，無論是復(fù)雜的細(xì)分領(lǐng)域還是邊云通信質(zhì)量低等，始終困擾著邊緣計(jì)算的發(fā)展。KubeEdge的開放生態(tài)、支持復(fù)雜邊云網(wǎng)絡(luò)環(huán)境等核心理念，在很大程度上解決上述難題，目前社區(qū)擁有眾多用戶及合作伙伴。未來將在基礎(chǔ)架構(gòu)、平臺能力、領(lǐng)域場景三大方面繼續(xù)深化，為邊緣云計(jì)算及云原生添磚添瓦。

VMware：EdgeXFoundry與基于Kubernetes的、中立的云邊協(xié)同探索

VMware中國研發(fā)總監(jiān) 路廣

數(shù)據(jù)顯示，云邊協(xié)同時(shí)代的經(jīng)濟(jì)規(guī)模，有望達(dá)到四萬億。云原生平臺如何擴(kuò)展到邊緣，成為行業(yè)熱議話題。Kubernetes將成為新的基礎(chǔ)設(shè)施管理標(biāo)準(zhǔn)。為此，對云邊協(xié)同提出了更多要求，例如云邊協(xié)同的安全性與一致性、對開發(fā)人員的經(jīng)驗(yàn)及能力有更高要求、不同云管理程序的性能變化與成本控制等等。最終目標(biāo)為進(jìn)一步優(yōu)化安裝與升級過程、強(qiáng)化多云協(xié)作等等。

新華三：5G邊緣計(jì)算和云原生融合實(shí)踐

新華三技術(shù)有限公司系統(tǒng)架構(gòu)師 謝瑞濤

H3C 5G邊緣計(jì)算系統(tǒng)是以EdgeGallery為基礎(chǔ)，以支持云原生應(yīng)用和物聯(lián)網(wǎng)設(shè)備為目標(biāo)的邊緣應(yīng)用接入平臺。具備架構(gòu)兼容性、簡單易用、平滑系統(tǒng)對接、DNS自學(xué)習(xí)及均衡負(fù)載等優(yōu)點(diǎn)?？膳c區(qū)塊鏈、AI多領(lǐng)域進(jìn)行融合對接。

Juniper Network：Tungsten Fabric在邊緣計(jì)算場景中的應(yīng)用

Juniper Network中國區(qū)創(chuàng)新事業(yè)部資深架構(gòu)師 范桂颶

分布式云是未來主流。但無論如何，都需要解決云與云之間的關(guān)系構(gòu)建問題。Tungsten Fabric作為是多云統(tǒng)一的SDN方案，擁有比較悠久的開源歷史。其設(shè)計(jì)理念包括集中式分布器、分布式網(wǎng)關(guān)、互聯(lián)一切。在云網(wǎng)構(gòu)建中，起到統(tǒng)一異構(gòu)資源池，實(shí)現(xiàn)多云部署等作用。

結(jié)束致辭

Linux Foundation 亞太區(qū)總監(jiān) 楊軒

5G時(shí)代，云計(jì)算與邊緣計(jì)算將進(jìn)一步融合。各開源社區(qū)、企業(yè)也應(yīng)攜手并進(jìn)，盡可能展開深入合作，共同見證新時(shí)代的到來。

精彩展示

12月11日大合照

12月12日大合照

尋找Kube仔

Party time

至此，持續(xù)兩天的Kubernetes on AI & Edge Day完美落幕，眾多行業(yè)大咖為現(xiàn)場以及線上觀眾，奉獻(xiàn)了一場場精彩的觀點(diǎn)及經(jīng)驗(yàn)分享。雖然有疫情影響，但絲毫沒有影響大家的熱情，也讓我們對Kubernetes、AI、開源、邊緣云有了更深一層的認(rèn)知。也歡迎更多對開源等領(lǐng)域有興趣的小伙伴加入到這個(gè)大家庭中。