邊緣計(jì)算真的可以賦能萬物嗎

南京創(chuàng)新周未來城市論壇

地平線創(chuàng)始人兼CEO余凱在南京創(chuàng)新周未來城市論壇上以《邊緣AI芯片趨勢》為主題發(fā)表了演講。

在演講中，余凱認(rèn)為當(dāng)下邊緣計(jì)算在中國最值得關(guān)注的落地應(yīng)用場景有兩個(gè)：一是智慧城市，二是汽車的智能化。在未來 5G 所牽引的萬物互聯(lián)的時(shí)代，以上兩個(gè)落地場景帶來的一定是數(shù)據(jù)的爆炸性增長，由此帶來的是設(shè)備的智能一定離不開邊緣人工智能處理器及其軟件操作系統(tǒng)和上層應(yīng)用。

中國未來的科技發(fā)展進(jìn)入了一個(gè)打空間戰(zhàn)的階段，不僅僅是上層的應(yīng)用要繼續(xù)做好，下層的計(jì)算處理器、操作系統(tǒng)同樣要夯實(shí)。支撐起中國未來科技發(fā)展的不光是需要企業(yè)，也需要整個(gè)生態(tài)，需要企業(yè)、高校人才等方方面面地整體互動(dòng)。

從2015年的7月14日成立，地平線已經(jīng)有快四年的歷史了。在成立這個(gè)公司的時(shí)候，地平線的核心創(chuàng)始團(tuán)隊(duì)包括我自己其實(shí)在過去從來都沒有真正地摸過芯片，基本上是一群干軟件算法的人，我自己在機(jī)器學(xué)習(xí)算法、軟件算法這個(gè)領(lǐng)域工作了有20多年，為什么會去思考換一個(gè)跑道，從軟件算法到芯片？其實(shí)有一個(gè)很重要的原因——在2015年的時(shí)候，深度學(xué)習(xí)已經(jīng)開始為大家所關(guān)注（但是AlphaGo還沒有發(fā)生，人工智能的也遠(yuǎn)沒有到街頭巷尾），我們隱約感覺到真正的人工智能要走出學(xué)校，走出像百度谷歌這樣的大公司，走向普惠化。能夠讓很多的行業(yè)受惠，其實(shí)只做軟件是不夠的，比如底層芯片就是非常重要的一塊?；谝陨峡紤]，我們在2015年成立了地平線，這在之后的幾年內(nèi)都應(yīng)該是中國唯一一家從事AI芯片的創(chuàng)業(yè)企業(yè)，可能在世界上也是最早的一家。

去年我看過一個(gè)報(bào)道說有40多家AI芯片企業(yè)在中國，今年應(yīng)該有更多。適當(dāng)?shù)呐菽呛玫模灰@個(gè)方向值得去嘗試，泡沫退去的時(shí)候終歸有一些企業(yè)能夠占有一席之地，比如2000年4月份的互聯(lián)網(wǎng)泡沫，退去之后留下來的還有谷歌、BAT這樣的企業(yè)，他們都是在泡沫之前產(chǎn)生的企業(yè)。所以只要有好的企業(yè)、好的方向，適度的泡沫是可以的。

在移動(dòng)互聯(lián)網(wǎng)時(shí)代很多用戶的數(shù)據(jù)在云端被分析，大量的數(shù)據(jù)模型為各類公司提供了極大的便利。為什么中國的AI今天能夠相對在國際上取得比較領(lǐng)先的優(yōu)勢？很大程度上是因?yàn)橐苿?dòng)互聯(lián)網(wǎng)有大量的數(shù)據(jù)產(chǎn)生，這樣的產(chǎn)業(yè)場景和規(guī)?？梢耘嘤芏嗳斯ぶ悄苋瞬?。但我們下一步5G到物聯(lián)網(wǎng)的時(shí)代，更多的數(shù)據(jù)不是產(chǎn)自于人，而是來自于汽車、攝像頭、溫度傳感器、無人機(jī)等等，更多實(shí)時(shí)的數(shù)據(jù)、射頻的數(shù)據(jù)、傳感器的數(shù)據(jù)都會被產(chǎn)生。尤其從去年開始5G加速到來，這會進(jìn)一步地推動(dòng)這樣的邊緣計(jì)算的趨勢。

移動(dòng)互聯(lián)網(wǎng)構(gòu)造的是人和人之間的網(wǎng)絡(luò)，人和信息之間的網(wǎng)絡(luò)，那么5G推動(dòng)的是什么？答案是物。由于5G帶來的是萬物的連接，萬物的連接導(dǎo)致的是數(shù)據(jù)的進(jìn)一步規(guī)模化的爆炸，同時(shí)我們的主干網(wǎng)并不能夠支撐這樣的數(shù)據(jù)傳輸規(guī)模，所以會在終端到邊緣產(chǎn)生我們所說的數(shù)據(jù)堰塞湖，這樣的數(shù)據(jù)堰塞湖會大量的發(fā)生在終端，因此邊緣服務(wù)器端人工智能計(jì)算會成為未來的一大需求。很多研究報(bào)告都在提到這樣的變化，基本上到2025年，邊緣人工智能計(jì)算的將會達(dá)到是云計(jì)算同樣數(shù)量級的規(guī)模。未來，邊緣計(jì)算將會走出世界級的企業(yè)。

邊緣計(jì)算與云計(jì)算是相對的，如果說云計(jì)算的根據(jù)地是城市，邊緣計(jì)算就相當(dāng)于農(nóng)村，擁有廣袤的土壤。

云、邊、端三類計(jì)算方式，當(dāng)下還是云計(jì)算占據(jù)主流的，但物聯(lián)網(wǎng)、5G會繼續(xù)推動(dòng)邊緣服務(wù)器以及智能終端計(jì)算的發(fā)展。我們統(tǒng)稱的邊緣計(jì)算實(shí)際上包括終端和邊緣的基站服務(wù)器，除去云計(jì)算之外的這兩個(gè)都是叫邊緣計(jì)算。當(dāng)下邊緣計(jì)算在中國最值得關(guān)注的落地應(yīng)用場景有兩個(gè)：一是智慧城市，二是汽車的智能化。在智慧城市方面，現(xiàn)在少部分在服務(wù)器端做計(jì)算復(fù)雜，但是在今年以及未來的四五年的時(shí)間100%的數(shù)據(jù)都會在攝像頭端被分析和計(jì)算，這會極大的推動(dòng)邊緣人工智能芯片的發(fā)展。而在智能駕駛方面，汽車智能化隨之而來的是傳感器在車端的部署，這一定意義上促使汽車也成為了四個(gè)輪子上面的超級計(jì)算機(jī)。

一個(gè)直觀的數(shù)據(jù)是，基本上的共識每輛自動(dòng)駕駛汽車產(chǎn)生的數(shù)據(jù)會高達(dá)1000個(gè)TB，如果是2000輛的4級、5級的自動(dòng)駕駛汽車，產(chǎn)生的數(shù)據(jù)將相當(dāng)于百萬的搜索引擎所檢索的所有的數(shù)據(jù)，是非常龐大的數(shù)據(jù)量。

邊緣計(jì)算有哪些特性？

那么邊緣計(jì)算有什么特點(diǎn)？隨之而來的是什么樣的好處？

首先，它具有實(shí)時(shí)性，比如對于汽車的安全性，如果前面有小孩子橫穿馬路，你要把這個(gè)信號傳到云端，算完以后變成指令再傳回來，可以想象發(fā)生什么問題，如果這個(gè)網(wǎng)絡(luò)帶寬并不是有保障呢？安全性對更可靠、及時(shí)的本地計(jì)算提出了需求。此外，像美國的一些家長不讓小孩子玩帶語音識別的玩具，為什么？因?yàn)檫@些數(shù)據(jù)都要傳到云端識別，包括今天講小米音響，阿里的百度的都有這些問題。隱私保護(hù)將是越來越受到關(guān)注的一個(gè)問題，而邊緣計(jì)算在這些場景下有很多好處。

我們以自動(dòng)駕駛為例，邊緣計(jì)算雖然發(fā)生在邊緣，可是它對算力的要求一點(diǎn)都不低，比如今天講到的車載AI計(jì)算主要是面向從2級到3級的輔助駕駛和半自動(dòng)駕駛的算力，這基本上是10TOPS的算力。但自動(dòng)駕駛的等級每往前增長一級對于算力要求增長一個(gè)數(shù)量級，到5級自動(dòng)駕駛會是1000個(gè)TOPS，也就是1000個(gè)萬億次，實(shí)際上達(dá)到了人類大腦的算力了，持續(xù)半個(gè)世紀(jì)的摩爾定律已經(jīng)遇到了瓶頸，也就是說單靠物理去不斷提升這種算力是越來越走不通。站在2019年的當(dāng)口，我們面向未來如何繼續(xù)推動(dòng)邊緣算力的成長？去迎接未來在人工智能的邊緣計(jì)算的挑戰(zhàn)。

過去，在2015年每1000美金能夠買到的算力基本上和老鼠的大腦相當(dāng)，可是我們需要推動(dòng)更復(fù)雜的計(jì)算進(jìn)程，使得到2025年、2030年的時(shí)候每1000美金我們能夠買到的算力是達(dá)到1000 TOPS，就是1000個(gè)萬億次的算力，即達(dá)到人類大腦的能力。那如何去實(shí)現(xiàn)這一點(diǎn)？我們在有的場合提到過：通過場景驅(qū)動(dòng)、軟硬結(jié)合創(chuàng)造新的摩爾定律?？梢韵胂?，如果我們能夠去做到這一點(diǎn)，那么到2025-2030年的時(shí)候，基本上每1000美金能夠買到的算力其實(shí)接近天河二號的算力，今天天河二號的算力光一年的電費(fèi)就要8千萬人民幣。自動(dòng)駕駛需要這樣級別的算力，這聽起來是難以想象的事情，但其實(shí)在過去的30年里，發(fā)生的事情并不是那么地讓人吃驚——回顧30年整個(gè)算力增長100萬倍，差不多是2的20次方，因?yàn)槊恳粋€(gè)五年大概算力翻一倍。

工業(yè)時(shí)代電力是基礎(chǔ)的賦能力量，但在數(shù)字經(jīng)濟(jì)時(shí)代，數(shù)據(jù)量、存儲能力、云計(jì)算的規(guī)模則會是很基礎(chǔ)的賦能能力。在大數(shù)據(jù)和人工智能驅(qū)動(dòng)的經(jīng)濟(jì)時(shí)代，我們能夠有效地利用人工智能的計(jì)算，實(shí)際上是一個(gè)非常重要的基礎(chǔ)的驅(qū)動(dòng)力。

在過去的幾年里如何衡量人工智能的能力？一直是存在一個(gè)誤解，因?yàn)閭鹘y(tǒng)芯片的性能我們一般說它的功耗、算力、面積，但是在人工智能芯片的真實(shí)應(yīng)用場景里，我們不應(yīng)該遵循這種傳統(tǒng)的簡單的衡量方式，而應(yīng)該采取更加務(wù)實(shí)的計(jì)算方式，就是去考核AI芯片的真實(shí)性能。真實(shí)性能首先第一點(diǎn)從技術(shù)出發(fā)，單位功耗能實(shí)現(xiàn)的算力，但是我們還要去看架構(gòu)設(shè)計(jì)以及算法是不是能充分利用硬件資源，也就是有效利用率。此外，人工智能算法實(shí)際上是統(tǒng)計(jì)機(jī)器學(xué)習(xí)算法，統(tǒng)計(jì)機(jī)器學(xué)習(xí)算法好和壞會導(dǎo)致什么樣的差別？會決定單位算力能夠完成什么樣的人工智能任務(wù)。最終來講，我們考核的是單位功耗里人工智能的性能，單位價(jià)格下人工智能的性能，這些才是真正的AI芯片的真實(shí)性能。

以上標(biāo)準(zhǔn)現(xiàn)在越來越成為一個(gè)業(yè)界的主流認(rèn)知，即通過場景驅(qū)動(dòng)定義的軟件框架，然后軟件框架結(jié)合硬件的架構(gòu)設(shè)計(jì)，使得軟件和硬件的結(jié)合繼續(xù)推動(dòng)在邊緣計(jì)算里的人工智能的算力。這是我們所追求的新的摩爾定律，它也要求我們有能力進(jìn)行全棧式的技術(shù)開發(fā)，包括人工智能應(yīng)用對算法、芯片架構(gòu)、編譯器等等的協(xié)同優(yōu)化。

同樣的硬件架構(gòu)，編譯器的性能實(shí)際上可以影響整個(gè)效率，比如有地平線編譯器的自動(dòng)優(yōu)化的話，每一秒鐘原來可以處理9楨的圖像，現(xiàn)在可以提升到每秒鐘24楨，計(jì)算的資源的利用率從30%多提升到85%，這就是軟件和硬件的協(xié)同推動(dòng)的效率提升，例如地平線推出的車載人工智能計(jì)算平臺——Matrix，可以有效應(yīng)對高級別自動(dòng)駕駛的需求。和市面上主流產(chǎn)品相比，地平線其實(shí)在功耗，在效率上面有強(qiáng)大的競爭優(yōu)勢，比如一個(gè)3瓦的功耗計(jì)算實(shí)際上能夠處理的效率，比如一秒鐘能夠處理多少楨圖像，和目前主流處理器有顯著的提升，地平線的核心競爭力就是軟件和硬件的高度協(xié)同。目前，Matrix自動(dòng)駕駛計(jì)算平臺已經(jīng)在國外的一個(gè)世界非常知名的自動(dòng)駕駛企業(yè)的車上進(jìn)行了部署，今年同樣在國外會部署超過1000臺這樣的4級、5級自動(dòng)駕駛車輛。在4級、5級自動(dòng)駕駛里，地平線產(chǎn)品的計(jì)算能力極具國際競爭力，在實(shí)際部署中也是先人一步的。

基于地平線Matrix自動(dòng)駕駛計(jì)算平臺地平線還打造了NavNet眾包高精建圖與定位方案，我們可以用單個(gè)的前置攝像頭通過計(jì)算實(shí)現(xiàn)類似于激光雷達(dá)的三維點(diǎn)云生成，并且是實(shí)時(shí)計(jì)算。今年，NavNet眾包高精建圖與定位方案將在韓國部署上萬輛汽車去做眾包高精地圖，這也驗(yàn)證了地平線國際化的策略。通過眾包方式構(gòu)建高精度地圖，成本和精度都有很大優(yōu)勢。

在未來 5G 所牽引的萬物互聯(lián)的時(shí)代，以上兩個(gè)落地場景帶來的一定是數(shù)據(jù)的爆炸性成長。設(shè)備的智能一定離不開邊緣人工智能處理器及其軟件操作系統(tǒng)和上層應(yīng)用。地平線的定位是一個(gè)做產(chǎn)業(yè)發(fā)展的賦能者，我們有一句話叫“只造武器不打仗”，即上不碰應(yīng)用，下不碰數(shù)據(jù)，做OEM、出行運(yùn)營商、集成商的賦能者。

目前，邊緣計(jì)算芯片在實(shí)際中的應(yīng)用還有很多。比如工地，人臉識別大家都看了很多了，但是地平線反而是反其道而行之，注重人臉隱私保護(hù)，攝像機(jī)本身處理視頻時(shí)就已經(jīng)把人臉全部模糊掉了，同時(shí)我們還做了一件事情就是檢測工人是不是戴了安全帽，我們發(fā)現(xiàn)這一點(diǎn)最近在很多國際廠商那邊非常受歡迎，因?yàn)樗麄儾⒉唤邮苤袊鵁o處不在的人臉識別，他們希望在傳過來的時(shí)候就把人臉抹掉。這是邊緣計(jì)算帶來的好處，因?yàn)槟憧梢园堰@些計(jì)算放在前端的小的設(shè)備里。

地平線是一個(gè)技術(shù)驅(qū)動(dòng)的企業(yè)，所以我們和國內(nèi)的高校，很多頂尖高校特別是南京的東南大學(xué)、南京大學(xué)都建立了非常緊密的合作關(guān)系，包括聯(lián)合實(shí)驗(yàn)室。中國未來的科技發(fā)展進(jìn)入了一個(gè)打空間戰(zhàn)的階段，不僅僅是上層的應(yīng)用要繼續(xù)做好，下層的計(jì)算處理器，計(jì)算的操作系統(tǒng)同樣要夯實(shí)。支撐起中國未來科技發(fā)展的不光是需要企業(yè)，也需要整個(gè)生態(tài)，需要企業(yè)、高校人才等方方面面地整體互動(dòng)。

目前，基于自主研發(fā)的 AI 芯片及算法，地平線已在全球范圍內(nèi)賦能包括奧迪、長安、理想、禾賽科技、首汽約車、SK電訊在內(nèi)的眾多智能駕駛合作伙伴。未來，地平線將持續(xù)發(fā)力，聚焦邊緣 AI 芯片+工具鏈組成的基礎(chǔ)技術(shù)平臺的搭建和打磨，為推動(dòng)客戶實(shí)現(xiàn)人工智能與行業(yè)的深度整合及落地應(yīng)用提供“加速劑”。