深度學(xué)習(xí)是機器學(xué)習(xí)中一種基于對數(shù)據(jù)進行表征學(xué)習(xí)的方法

今天，中天微宣布與深鑒科技達成一項知識產(chǎn)權(quán)合作框架協(xié)議，雙方將利用各自在嵌入式通用處理器以及深度學(xué)習(xí)處理方面的技術(shù)優(yōu)勢，合作構(gòu)建具有中國知識產(chǎn)權(quán)的人工智能SoC平臺與解決方案。

中天微成立于2001年，是一家從事32位高性能低功耗嵌入式CPU研發(fā)的集成電路設(shè)計公司，中國內(nèi)地基于自主指令架構(gòu)研發(fā)嵌入式CPU，并實現(xiàn)大規(guī)模量產(chǎn)的供應(yīng)商。截至目前，基于C-SKY CPU的SoC芯片累計出貨量已經(jīng)突破7億顆。

深鑒科技成立于2016年，提供先進的神經(jīng)網(wǎng)絡(luò)深度壓縮技術(shù)和基于其自主研發(fā)的Aristotle架構(gòu)和Descartes架構(gòu)的高效深度學(xué)習(xí)加速器全棧式解決方案，可在極低的功耗下提供接近高端GPU的深度學(xué)習(xí)處理性能。

此次合作，中天微將在內(nèi)置其高性能嵌入式CPU IP的SoC平臺中，納入深鑒科技的Aristotle架構(gòu)DPU深度學(xué)習(xí)處理器IP，為客戶提供高性能低功耗的嵌入式人工智能SoC解決方案。

同時，深鑒科技將為中天微的客戶提供其DPU IP的軟硬件集成、軟件開發(fā)工具鏈、以及人工智能算法優(yōu)化等全方位的技術(shù)支持，以縮短客戶芯片的面世時間，減少客戶芯片的研發(fā)風(fēng)險。

什么是深度學(xué)習(xí)？

官方定義，深度學(xué)習(xí)（Deep Learning）（也稱為深度結(jié)構(gòu)學(xué)習(xí)【Deep Structured Learning】、層次學(xué)習(xí)【Hierarchical Learning】或者是深度機器學(xué)習(xí)【Deep Machine Learning】）是一類算法集合，是機器學(xué)習(xí)的一個分支。它嘗試為數(shù)據(jù)的高層次摘要進行建模。

機器學(xué)習(xí)（Machine Learning）是一門專門研究計算機怎樣模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)行為，以獲取新的知識或技能，重新組織已有的知識結(jié)構(gòu)使之不斷改善自身的性能的學(xué)科。

深度學(xué)習(xí)是機器學(xué)習(xí)中一種基于對數(shù)據(jù)進行表征學(xué)習(xí)的方法。觀測值（例如一幅圖像）可以使用多種方式來表示，如每個像素強度值的向量，或者更抽象地表示成一系列邊、特定形狀的區(qū)域等。而使用某些特定的表示方法更容易從實例中學(xué)習(xí)任務(wù)（例如，人臉識別或面部表情識別）。深度學(xué)習(xí)的好處是用非監(jiān)督式或半監(jiān)督式的特征學(xué)習(xí)和分層特征提取高效算法來替代手工獲取特征。

深度學(xué)習(xí)的應(yīng)用

在實際應(yīng)用中，很多問題都可以通過深度學(xué)習(xí)解決。那么，我們舉一些例子：

黑白圖像的著色

深度學(xué)習(xí)可以用來根據(jù)對象及其情景來為圖片上色，而且結(jié)果很像人類的著色結(jié)果。這種解決方案使用了很大的卷積神經(jīng)網(wǎng)絡(luò)和有監(jiān)督的層來重新創(chuàng)造顏色。

機器翻譯

深度學(xué)習(xí)可以對未經(jīng)處理的語言序列進行翻譯，它使得算法可以學(xué)習(xí)單詞之間的依賴關(guān)系，并將其映射到一種新的語言中。大規(guī)模的LSTM的RNN網(wǎng)絡(luò)可以用來做這種處理

圖像中的對象分類與檢測

這種任務(wù)需要將圖像分成之前我們所知道的某一種類別中。目前這類任務(wù)最好的結(jié)果是使用超大規(guī)模的卷積神經(jīng)網(wǎng)絡(luò)實現(xiàn)的。突破性的進展是Alex Krizhevsky等人在ImageNet比賽中使用的AlexNet模型。

自動產(chǎn)生手寫體

這種任務(wù)是先給定一些手寫的文字，然后嘗試生成新的類似的手寫的結(jié)果。首先是人用筆在紙上手寫一些文字，然后根據(jù)寫字的筆跡作為語料來訓(xùn)練模型，并最終學(xué)習(xí)產(chǎn)生新的內(nèi)容。

自動玩游戲

這項任務(wù)是根據(jù)電腦屏幕的圖像，來決定如何玩游戲。這種很難的任務(wù)是深度強化模型的研究領(lǐng)域，主要的突破是DeepMind團隊的成果。

聊天機器人

一種基于sequence to sequence的模型來創(chuàng)造一個聊天機器人，用以回答某些問題。它是根據(jù)大量的實際的會話數(shù)據(jù)集產(chǎn)生的。

深度學(xué)習(xí)對硬件的需求

一般來說，深度學(xué)習(xí)包含兩個階段：數(shù)據(jù)訓(xùn)練和推斷。

在數(shù)據(jù)訓(xùn)練階段，大量的標記或者未標記的數(shù)據(jù)被輸入深度神經(jīng)網(wǎng)絡(luò)中進行監(jiān)督或者無監(jiān)督的學(xué)習(xí)。所謂監(jiān)督學(xué)習(xí)，就是輸出是有標記的學(xué)習(xí)，讓模型通過訓(xùn)練，迭代收斂到目標值；而非監(jiān)督學(xué)習(xí)不需要人為輸入標簽，模型通過學(xué)習(xí)發(fā)現(xiàn)數(shù)據(jù)的結(jié)構(gòu)特征。從而使機器能夠在大數(shù)據(jù)中提取更多的特征值。

隨著深度神經(jīng)網(wǎng)絡(luò)模型層數(shù)的增多，與之相對應(yīng)的權(quán)重參數(shù)成倍的增長，從而對硬件的計算能力有著越來越高的需求，尤其是在數(shù)據(jù)訓(xùn)練的階段。因此，深度學(xué)習(xí)訓(xùn)練領(lǐng)域的前沿逐漸從算法轉(zhuǎn)移到了對于高性能計算（HPC）的追逐上。目前被業(yè)內(nèi)廣泛接受的是“CPU+GPU”的異構(gòu)模式和“MIC （Many Integrated Core）”眾核同構(gòu)來實現(xiàn)高性能計算。

推斷階段就是利用訓(xùn)練中所獲得的特征值去對新的輸入數(shù)據(jù)進行判斷或者預(yù)測。從應(yīng)用上來說，推斷可以分為兩大類：線上數(shù)據(jù)中心的推斷和移動設(shè)備中的推斷。

相較于訓(xùn)練階段執(zhí)著于對高性能計算的需求，線上數(shù)據(jù)中心的推斷不僅要求硬件有著高性能計算，更重要的是對于多指令數(shù)據(jù)的處理能力。就比如“Bing”搜索引擎同時要對數(shù)以萬計的圖片搜索要求進行識別推斷從而給出搜索結(jié)果。目前而言，“CPU+GPU”的異構(gòu)模式依舊是第一選擇，但是“CPU+FPGA”異構(gòu)計算已經(jīng)顯示出他在這方面的潛力。

而移動設(shè)備中的推斷更強調(diào)在高性能計算和低功耗中尋找一個平衡點。在這個領(lǐng)域的深度學(xué)習(xí)的執(zhí)行還是更多的依賴于“CPU+FPGA”與“ASIC”。

哪些芯片商在關(guān)注深度學(xué)習(xí)

目前關(guān)注深度學(xué)習(xí)市場的的芯片廠商有哪些呢？英偉達、谷歌、微軟、IBM、寒武紀、地平線、中星微、英特爾等。其中英偉達進入市場較早，Intel 2016年以4.08 億美元收購Nervana Systems開始進行布局。

寒武紀，是北京中科寒武紀科技有限公司的簡稱。2016年推出的寒武紀1A處理器（Cambricon-1A）是世界首款商用深度學(xué)習(xí)專用處理器，面向智能手機、安防監(jiān)控、可穿戴設(shè)備、無人機和智能駕駛等各類終端設(shè)備。

Horizon Robotics（地平線機器人）由前百度深度學(xué)習(xí)研究院負責(zé)人余凱創(chuàng)辦，致力于打造基于深度神經(jīng)網(wǎng)絡(luò)的人工智能“大腦”平臺-包括軟件和芯片，可以做到低功耗、本地化的解決環(huán)境感知、人機交互、決策控制等問題。

地平線的最終產(chǎn)品不止芯片，而是一個核心控制模塊，具有感知、識別、理解、控制的功能。把這個控制模塊做成產(chǎn)品去跟合作方做集成。換句話說，地平線提供的是一個帶有人工智能算法的解決方案。

中星微在2016年6月20日率先推出中國首款嵌入式神經(jīng)網(wǎng)絡(luò)處理器（NPU）芯片，這是全球首顆具備深度學(xué)習(xí)人工智能的嵌入式視頻采集壓縮編碼系統(tǒng)級芯片，取名“星光智能一號”。

這款基于深度學(xué)習(xí)的芯片運用在人臉識別上，最高能達到98%的準確率，超過人眼的識別率。該NPU采用了“數(shù)據(jù)驅(qū)動”并行計算的架構(gòu)，單顆NPU（28nm）能耗僅為400mW，極大地提升了計算能力與功耗的比例。

今天獲得消息，三星電子推出新款處理器Exynos7 9610，采用10納米工藝，配置基于深度學(xué)習(xí)的技術(shù)，估計未來也會有更多企業(yè)開始關(guān)注深度學(xué)習(xí)領(lǐng)域。