一顆基于應(yīng)用場(chǎng)景抽象出來的，面向多層神經(jīng)網(wǎng)絡(luò)處理的AI芯片

今年的春晚都用到了大量的AI技術(shù)，在春晚的深圳分會(huì)場(chǎng)采用了云天勵(lì)飛的人臉識(shí)別系統(tǒng)，實(shí)現(xiàn)刷臉安檢1s過關(guān)。云天勵(lì)飛董事長(zhǎng)兼CEO陳寧介紹了春晚AI應(yīng)用背后的黑科技：能夠處理200億城市數(shù)據(jù)、具備自學(xué)能力的AI專用芯片。

歷年來，央視的春晚都是潮流的風(fēng)向標(biāo)，反應(yīng)了當(dāng)下最流行的趨勢(shì)。而2019年春晚的主角，無(wú)疑就是人工智能：不僅首次采用AI主持人，幕后也用到了大量的人工智能技術(shù)。

我們都知道，春晚安檢是一項(xiàng)既重要又累人的活兒。往年依賴人工安檢，效率和準(zhǔn)確度很難保證，速度慢且易出錯(cuò)。今年春晚的深圳分會(huì)場(chǎng)，由于采用了云天勵(lì)飛的人臉檢測(cè)系統(tǒng)，來賓可以直接“刷臉”入場(chǎng)，極大的提高了安檢的效率。

5個(gè)春晚現(xiàn)場(chǎng)的出入口被部署了15臺(tái)人臉識(shí)別閘機(jī)，以及6臺(tái)人證比對(duì)一體機(jī)，組成了10個(gè)通道。同時(shí)通過深目系統(tǒng)和攝像頭，對(duì)現(xiàn)場(chǎng)人員人像信息進(jìn)行采集、分析、挖掘和“白名單”布控等，為現(xiàn)場(chǎng)演出提供安保服務(wù)。經(jīng)互聯(lián)網(wǎng)注冊(cè)、后臺(tái)驗(yàn)證授權(quán)成功的演出人員、工作人員等，全程僅需“刷臉”，1s內(nèi)即可驗(yàn)證身份，從而得以快速高效通行進(jìn)入會(huì)場(chǎng)。

那么在春晚1s刷臉安檢的背后，到底采用了什么技術(shù)支持？在實(shí)地安裝的時(shí)候，又會(huì)遇到哪些技術(shù)和現(xiàn)實(shí)的困難？未來會(huì)有什么值得期待？這些問題的答案，由云天勵(lì)飛董事長(zhǎng)兼CEO陳寧在3月27日舉辦的《新智元AI峰會(huì)上》一一揭曉。

會(huì)上，陳寧介紹了針對(duì)平安城市、新零售、社會(huì)治理這三個(gè)場(chǎng)景，推出的視覺城市大腦系統(tǒng)。據(jù)悉，該系統(tǒng)已在北京、上海、深圳、杭州等全國(guó)80多個(gè)城市和新加坡等一系列海外的國(guó)家進(jìn)行了產(chǎn)業(yè)化落地。

作為一家專注于AI場(chǎng)景解決方案的AI芯片初創(chuàng)企業(yè)，云天勵(lì)飛提出了場(chǎng)景定義芯片的概念，并基于應(yīng)用場(chǎng)景抽象出了一顆面向多層神經(jīng)網(wǎng)絡(luò)處理的芯片，以實(shí)現(xiàn)對(duì)海量數(shù)據(jù)的高效處理，以及低功耗、高性價(jià)比、算法不斷演進(jìn)等訴求。

隨著AI芯片開始產(chǎn)業(yè)化、商業(yè)化的落地應(yīng)用，背后的信息安全就顯得尤為重要。陳寧提到，深圳的視覺城市大腦系統(tǒng)與警民app相連，可以在不到2秒的時(shí)間內(nèi)檢索任何一名犯罪嫌疑人，該系統(tǒng)協(xié)助公安破獲了一萬(wàn)多起各類案例，包括我們開頭提到的拐帶小孩案件。同時(shí)他還提到，公司正在從技術(shù)層面配合國(guó)家相關(guān)部門，推進(jìn)人工智能立法的調(diào)研。

除了AI芯片，陳寧說云天勵(lì)飛面向AIoT打造了一套AIOS生態(tài)平臺(tái)，將算法、芯片、數(shù)據(jù)三者相結(jié)合，希望在安全性、便利性和愉悅性三個(gè)層面逐步改善人類的生活。

以下是陳寧《芯聯(lián)萬(wàn)物，智創(chuàng)未來》的演講實(shí)錄

AI落地應(yīng)用最大的難點(diǎn)是如何處理多場(chǎng)景海量數(shù)據(jù)

陳寧（云天勵(lì)飛董事長(zhǎng)兼CEO）：過去的五十年，自從個(gè)人電腦發(fā)明之后，人類數(shù)字化生活進(jìn)入了一個(gè)爆發(fā)期，尤其是過去的三十年互聯(lián)網(wǎng)和移動(dòng)互聯(lián)網(wǎng)的時(shí)代，通過智能手機(jī)觸摸屏的相應(yīng)技術(shù)，由人類適配機(jī)器，通過鍵盤鼠標(biāo)進(jìn)入觸摸屏，再進(jìn)入AIoT的時(shí)代，通過視覺和語(yǔ)音的識(shí)別大大地降低了人和機(jī)器進(jìn)行交互的門檻，也使更多的人類能夠利用這些機(jī)器和人工智能的技術(shù)。

隨之而來的是AI為IoT的時(shí)代進(jìn)行智能化的賦能，隨著應(yīng)用場(chǎng)景的拓展，IoT又為人工智能提供了海量的場(chǎng)景數(shù)據(jù)，就像人工智能的營(yíng)養(yǎng)去推動(dòng)人工智能的算法不斷進(jìn)步，逐步進(jìn)入一個(gè)通用人工智能的時(shí)代。

這樣一個(gè)有機(jī)的迭代代表著AIoT時(shí)代的啟動(dòng)，而在AIoT時(shí)代提供了靈活性數(shù)據(jù)安全和高性能多方面的一系列訴求，這些海量數(shù)據(jù)和多場(chǎng)景應(yīng)用的訴求，為人工智能的芯片提出了一系列挑戰(zhàn)。

針對(duì)這樣面向多場(chǎng)景海量數(shù)據(jù)的處理，云天勵(lì)飛也在AI芯片領(lǐng)域作出了一系列探索，提出場(chǎng)景定義AI芯片這樣的一個(gè)概念。我們認(rèn)為，AIoT時(shí)代將會(huì)面向各類場(chǎng)景擁有一系列的專用定制AI芯片的機(jī)會(huì)。

過去四年多的時(shí)間當(dāng)中，云天勵(lì)飛尤其是視覺城市大腦領(lǐng)域做了一系列積極的產(chǎn)業(yè)化落地探索，我們的視覺大腦主要是在平安城市、新零售、社會(huì)治理這三個(gè)領(lǐng)域，目前在北京、上海、深圳、杭州等全國(guó)80多個(gè)城市和新加坡等一系列海外的國(guó)家都有產(chǎn)業(yè)化的落地。

面向多層神經(jīng)網(wǎng)絡(luò)處理的AI芯片，處理200億城市動(dòng)態(tài)影像

目前系統(tǒng)在線處理的實(shí)現(xiàn)了前端裝載著我們的算法或者芯片3萬(wàn)多路，已經(jīng)在系統(tǒng)內(nèi)處理了超過200多億的城市級(jí)動(dòng)態(tài)影像的數(shù)據(jù)，這樣一系列的場(chǎng)景涵蓋了機(jī)場(chǎng)、地鐵、社區(qū)和大型商超、火車站等等各種各樣的智慧城市的生活場(chǎng)景，也服務(wù)了一系列的重要會(huì)議和重要工程。

通過在這些具體的應(yīng)用場(chǎng)景當(dāng)中，比如人臉識(shí)別、人像識(shí)別、海量數(shù)據(jù)分析等等一系列的應(yīng)用和系統(tǒng)的理解，我們基于應(yīng)用場(chǎng)景抽象出了一顆面向多層神經(jīng)網(wǎng)絡(luò)處理的芯片。

這顆芯片擁有抽象處理160多條指令，主要是面向多層神經(jīng)網(wǎng)絡(luò)的高效可編程抽象出來的自主可控指令集，解決在人工智能芯片應(yīng)用領(lǐng)域?qū)Ａ繑?shù)據(jù)的高效處理、對(duì)低功耗、高性價(jià)比、算法不斷演進(jìn)靈活性等等一系列訴求。

這顆處理器的指令集設(shè)計(jì)采用SIMD、VLIW以及多線程等等一系列高效率的指令集架構(gòu)設(shè)計(jì)的手段，并且為了平衡，海量數(shù)據(jù)的處理過程當(dāng)中、數(shù)據(jù)傳輸和運(yùn)算單元之間的平衡也采用進(jìn)存儲(chǔ)計(jì)算等一系列較新的架構(gòu)。

基于這樣一顆神經(jīng)網(wǎng)絡(luò)的可編程處理器，我們進(jìn)一步融合CPU和加速單元等等異構(gòu)架構(gòu)，設(shè)計(jì)一系列面向視覺應(yīng)用基于異構(gòu)架構(gòu)和核心的神經(jīng)網(wǎng)絡(luò)處理器SOC的芯片。

這樣的一系列SOC芯片提供的是面向多應(yīng)用場(chǎng)景的高度靈活性，比如支持多種數(shù)據(jù)類型、浮點(diǎn)定點(diǎn)等等多種位寬的數(shù)據(jù)操作類型，并且兼容目前主流深度學(xué)習(xí)的框架，支持多套AI算法的應(yīng)用。

靈活性的基礎(chǔ)上同時(shí)又不失高效率，面向神經(jīng)網(wǎng)絡(luò)的各類運(yùn)算提供了GPU兩個(gè)數(shù)量級(jí)以上的更高性價(jià)比，同時(shí)面向人工智能算法不斷的迭代和演進(jìn)，也提供了在云端可以一鍵快速升級(jí)終端芯片上的算法，因?yàn)槭且粋€(gè)可編程，通過軟件迭代的方式快速實(shí)現(xiàn)軟件算法的部署和升級(jí)。

第二代芯片也是第一代SOC處理器芯片，因?yàn)榈谝淮窃?016年基于FPGA的芯片，DeepEye1000第一代SOC芯片也在2018年8月16號(hào)在新加坡投入生產(chǎn)，就是22納米FD-SOI工藝的SOC異構(gòu)架構(gòu)視覺處理芯片，目前這顆芯片也在十多個(gè)AIoT應(yīng)用場(chǎng)景和城市大腦項(xiàng)目當(dāng)中進(jìn)行商業(yè)化的落地和應(yīng)用。

我們知道這樣的一系列AI芯片的背后其實(shí)信息安全就更加重要，因?yàn)樵瓉砩⒙湓诔鞘械母鱾€(gè)角落海量的視頻監(jiān)控?cái)?shù)據(jù)，因?yàn)槿狈I的技術(shù)手段，所以這些數(shù)據(jù)當(dāng)中有用的價(jià)值很難被挖掘出來，但是由于現(xiàn)在我們賦予其AI算法、芯片和數(shù)據(jù)分析的能力，可以在我們的指間方寸秒級(jí)獲取必要有用的信息。

我們?cè)谏钲谏暇€了一套視覺城市大腦系統(tǒng)，2017年開始深圳的兩萬(wàn)民警在警民終端的APP上面可以在秒級(jí)時(shí)間對(duì)城市級(jí)的視頻監(jiān)控?cái)?shù)據(jù)進(jìn)行分析，大概不到兩秒的時(shí)間通過這款A(yù)PP可以檢索任何一名犯罪嫌疑人，當(dāng)然有嚴(yán)格的權(quán)限管理，深圳的機(jī)場(chǎng)到地鐵，南山福田跨區(qū)域過去半年的活動(dòng)軌跡，這套系統(tǒng)也協(xié)助公安破獲了一萬(wàn)多起各類案例。

AI芯片數(shù)據(jù)安全正在向自演進(jìn)、自學(xué)習(xí)的目標(biāo)發(fā)展

這是視覺城市大腦在平安城市應(yīng)用的案例，但是隨著顛覆性實(shí)戰(zhàn)效果的背后，當(dāng)然對(duì)信息安全、個(gè)人隱私也提出了一系列的挑戰(zhàn)。除了一系列SOC芯片在終端應(yīng)用和云端，芯片數(shù)據(jù)管理技術(shù)的角度提出了一系列的挑戰(zhàn)之外，制度法律法規(guī)層面我們也在配合國(guó)家相關(guān)部門推進(jìn)一些人工智能立法的調(diào)研。

基于芯片數(shù)據(jù)安全，我們知道人工智能其實(shí)還是處于一個(gè)非常早期的階段，正在從一個(gè)弱人工智能時(shí)代向一個(gè)自演進(jìn)、自學(xué)習(xí)的目標(biāo)進(jìn)行演進(jìn)。

基于這樣一個(gè)芯片的硬件平臺(tái)，我們打造了AIOS。這是能夠從數(shù)據(jù)的采集、標(biāo)注、訓(xùn)練到算法的升級(jí)，能夠?qū)崿F(xiàn)芯片、算法、數(shù)據(jù)有機(jī)的迭代，推動(dòng)面向應(yīng)用場(chǎng)景的算法不斷進(jìn)行自演進(jìn)，甚至在終端芯片上進(jìn)行分布式的自訓(xùn)練。

結(jié)合異構(gòu)架構(gòu)的底層芯片和AIOS操作系統(tǒng)打造這樣一個(gè)面向AIoT的芯片+算法訓(xùn)練平臺(tái)的生態(tài)，再結(jié)合我們?cè)诖髷?shù)據(jù)領(lǐng)域城市大腦應(yīng)用的數(shù)據(jù)分析領(lǐng)域，將算法、芯片、數(shù)據(jù)三者相結(jié)合，推動(dòng)再向無(wú)人駕駛、機(jī)器人、安防、智能制造等等一系列領(lǐng)域逐步打造這樣一個(gè)AIoT的生態(tài)，推動(dòng)人工智能逐步成熟、逐步產(chǎn)業(yè)化落地，安全、便利和愉悅?cè)齻€(gè)層面逐步改善人類的生活。

這些就是今天我?guī)Ыo大家的分享，謝謝！