AI算力與功耗如何平衡？清華大學(xué)尹首一教授解讀IoT場景中AI應(yīng)用落地痛點

本站原創(chuàng)，作者：章鷹，電子發(fā)燒友執(zhí)行副主編。

12月20日，在深圳會展中心2號館2A會議室，由雷鋒網(wǎng)主辦的AI IoT+智慧城市高峰論壇上，清華大學(xué)微納電子系副主任、微電子學(xué)研究所副所長尹首一就物聯(lián)網(wǎng)場景中如何實現(xiàn)AI應(yīng)用，帶來了精彩的觀點分享。

圖：清華大學(xué)微納電子系副主任、微電子學(xué)研究所副所長，尹首一教授

趨勢一：綜合安全和通訊延遲問題，智能設(shè)備端設(shè)實現(xiàn)AI計算已成為趨勢。

清華大學(xué)微納電子系副主任、微電子學(xué)研究所副所長，尹首一教授表示，不僅學(xué)術(shù)界還是企業(yè)界都在思考：如何在IoT中，實現(xiàn)無處不在的AI應(yīng)用？

最近10年，深度神經(jīng)網(wǎng)絡(luò)的崛起使深度學(xué)習(xí)成為AI的基礎(chǔ)背景和技術(shù)，讓AI在深度學(xué)習(xí)的驅(qū)動下獲得了空前的發(fā)展，每天享受的便利，比如語音助手、百度DureOS，互聯(lián)網(wǎng)上的電子購物等背后的計算都在云上。

智能終端的AI計算成為趨勢。考慮通訊延時、基于硬件設(shè)備、個人隱私考慮，我們需要在終端設(shè)備、傳感器，各種設(shè)備端上實現(xiàn)AI計算。這已經(jīng)成為電子行業(yè)的巨頭共識，百分之九十以上的物聯(lián)網(wǎng)設(shè)備上使用CPU是arm公司提供的內(nèi)核，Google首席科學(xué)家在全球半導(dǎo)體大會上報告上說，Google認為，IoT景下，未來AI計算一定是分布式、分層次、分等級的綜合系統(tǒng)。

趨勢二：未來的AI計算一定是分布式、分層次、分等級的綜合系統(tǒng)，一部分分布在云端的IOT，也有在IOT末端的各種AI計算，催生出在智能終端上的深度學(xué)習(xí)的芯片市場，據(jù)美國咨詢公司的測算，2015年到2025年，將會產(chǎn)生700億美金的深度學(xué)習(xí)AI芯片市場。
?

趨勢三、要滿足各種場景下AI計算的需求，需要考慮算力和功耗問題的平衡。例如智能手機對語音技術(shù)的應(yīng)用，智能家電中有嚴苛的功耗約束，因而要在功耗受限場景下實現(xiàn)AI算法和運算就成為關(guān)鍵。
?

比如讓手機隨時隨地與人做語音識別，需要語音識別能力，AI算力最大忍受的功耗是1-2毫瓦，否則手機耗電過大，影響整體體驗；又比如智能家電、智能眼鏡有非常嚴苛的功耗約束，大概在幾百毫瓦左右，如何在這些功耗下實現(xiàn)這些AI的功能和運算，這個是需要解決的關(guān)鍵問題。

趨勢四：未來AI芯片組必須要滿足三個條件：可編程、計算／內(nèi)存訪問友好型、超高效能／超低功耗。
?

目前從國際學(xué)術(shù)界來看，從兩個方向進行努力：第一、算法模型的緊湊、壓縮。2016年，神經(jīng)網(wǎng)絡(luò)已經(jīng)壓縮到１比特，其效能與全精度的神經(jīng)網(wǎng)絡(luò)存在很少差異，只存在一個百分點，在絕大多數(shù)場景可以忽略不計。第二、硬件架構(gòu)上的變革，硬件架構(gòu)一直在演進，但是在功耗上無法滿足毫瓦級的需求，甚至更高標準的需求，這對未來新架構(gòu)的研發(fā)提出了挑戰(zhàn)。

趨勢五、未來計算架構(gòu)創(chuàng)新，將是實現(xiàn)無處不在AI應(yīng)用的關(guān)鍵

如何從硬件角度實現(xiàn)更低功耗的AI計算？2013年，中科院寒武紀推出指令集的架構(gòu)方式，到2018年韓國科學(xué)院提出的新方案，優(yōu)化神經(jīng)網(wǎng)絡(luò)路線。2017年，美國的國防部高級計劃研究局（DARPA），為了保證美國在未來十年到2030年仍然保持國際半導(dǎo)體和電子電芯的領(lǐng)先地位，發(fā)起了三個方向的研究計劃，其中最主要研究方向之一是來自于計算架構(gòu)，這里有一個被稱為軟件定義硬件的研究計劃，它是探討運行時快速重構(gòu)的硬件架構(gòu)，也就是前面提到的CGRA架構(gòu)。

目前的CPU+SW、CPU+GPU、CPU+FPGA、CPU+ASIC的作法都不是理想的架構(gòu)?？芍貥?gòu)架構(gòu)在實現(xiàn)更高能效的同時，能夠在相比于CPU、GPU、FPGA更高的能量效率的同時還有可編程性。

基于這種架構(gòu)，清華微電子所相關(guān)課題組研發(fā)出了全新的Thinker系列芯片，使用了可重構(gòu)計算芯片架構(gòu)。在這個架構(gòu)中，Thinker可以根據(jù)控制單元的要求配置計算單元陣列并執(zhí)行，也可以根據(jù)軟件的要求將劃分后的任務(wù)送到數(shù)據(jù)通道執(zhí)行。而且，不同于馮諾依曼等效架構(gòu)，可重構(gòu)計算模式為函數(shù)化的硬件架構(gòu)。

目前，Thinker系列芯片已經(jīng)推出了面向通用神經(jīng)網(wǎng)絡(luò)計算的Thinker 1代，面向極低功耗神經(jīng)網(wǎng)路計算的Thinker 2，以及面向極低功耗語音應(yīng)用的Thinker S。

尹首一介紹說：“從2006年開始我們連續(xù)設(shè)計了幾個芯片，第一款芯片可以實現(xiàn)5萬億次的計算每瓦，第二顆芯片功耗效率比進一步提升，第三顆芯片是可以用于智能音箱的語音交互，芯片功耗只需要240微瓦，這樣就可以把AI計算的芯片嵌入到任何一個可穿戴便攜設(shè)備里，比如說智能手機、手表這樣的電池非常有限，仍然可以把語音交互的入口嵌進去，實現(xiàn)機器與用戶之間自然的語音交互。

2017年，獲得圖靈獎榮譽的是兩位計算機體系結(jié)構(gòu)的大師，他們在圖靈獎的獲獎感言里提到，今天是計算機體系結(jié)構(gòu)的新的黃金時代， 讓我們大家一起擁抱今天這個計算機架構(gòu)和AI的雙重黃金時代。

在全天峰會上，騰訊云張羿、華為OceanConnect物聯(lián)網(wǎng)平臺首席架構(gòu)師苗彩霞、百度AI安全技術(shù)總監(jiān)聶科峰、ZNV力維首席技術(shù)官曹友盛、阿里云IoT高級算法專家、智能城市架構(gòu)師田輝、京東城市計算事業(yè)部高級專家陳旭旭、北京毫米科技COO兼聯(lián)合創(chuàng)始人徐旭、Semtech市場戰(zhàn)略總監(jiān)甘泉、和而泰地產(chǎn)事業(yè)部總經(jīng)理潘子健等業(yè)界大咖都發(fā)表了精彩的演講。

活動尾聲，Semtech市場戰(zhàn)略總監(jiān)甘泉、康行科技聯(lián)合創(chuàng)始人潘江宇、和而泰地產(chǎn)事業(yè)部總經(jīng)理潘子健、清華大學(xué)深圳研究生博士后&綠米算法工程師曲曉峰在現(xiàn)場進行了圓桌對話，議題是《AIoT技術(shù)和智慧趁勢應(yīng)用的融合》。

Semtech市場戰(zhàn)略總監(jiān)甘泉表示，AIoT要想做好，前提是大量的數(shù)據(jù)能夠“喂養(yǎng)”，而目前，前端傳感器的數(shù)量并不夠多，收集的資料、數(shù)據(jù)信息也不夠多?，F(xiàn)在，loRa技術(shù)提供很好的渠道，阿里騰訊京東都在涌入，全球也有每年50%的市場增長，loRa技術(shù)勢必會作為物聯(lián)網(wǎng)連接的主流技術(shù)成長。

康行科技聯(lián)合創(chuàng)始人潘江宇則認為，AIoT和IoT的差距就在于是否客戶能迅速上手，有新的體驗，帶有刷臉、語音識別、智能互動的場景就是AIoT呈現(xiàn)的狀態(tài)。此外，兩者之家處理數(shù)據(jù)的方式也不一樣，通過AI的方式處理能夠反饋給設(shè)備，形成工具性的產(chǎn)品，用更加便捷的應(yīng)用幫助人們的生活。他強調(diào)，技術(shù)要上天，但是產(chǎn)品要落地。

和而泰地產(chǎn)事業(yè)部總經(jīng)理潘子健指出，4年之前他們就預(yù)測到IoT到AIoT的爆發(fā)，也在同年推出了C-life平臺。從智能到智慧的升級，要有數(shù)據(jù)和計算以及服務(wù)，所以IoT到AIoT的升級或者爆發(fā)是一個必然。而和而泰從一開始做IoT就是瞄準計算、瞄準AI、瞄準服務(wù)。目前地產(chǎn)業(yè)都在“去地產(chǎn)化”，更加重視智能與服務(wù)，這又是一波新的契機。