0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

算力、功耗還是架構?四位大咖縱論終端AI的四大挑戰(zhàn)

章鷹觀察 ? 來源:電子發(fā)燒友原創(chuàng) ? 作者:章鷹 ? 2019-05-14 10:37 ? 次閱讀

本站原創(chuàng),作者:章鷹,電子發(fā)燒友執(zhí)行副主編。

2019年,AI市場風起云涌,一方面不少獨角獸公司融資不斷擴大,比如2月27日地平線 (Horizon Robotics) 宣布完成由SK中國、SKHynix以及數(shù)家中國一線汽車集團 (與旗下基金) 聯(lián)合領投的B輪融資,獲得6億美金左右的投資,又比如5月8日,曠視科技完成D輪融資,融資額達到7.5億美元,在熱門的邊緣計算、視覺領域的前沿研究獲得充足的資金支持。

另外一方面,市場對人工智能的期望恢復理性,國內廠商開始進入落地應用階段。核心AI能力不斷擴展,寒武紀在蘇州舉辦的全球智博會上,展示了14個應用案例,寒武紀AI芯片,比如MLU100芯片已經(jīng)在阿里云城市大腦提供算力支持,寒武紀的AI芯片在智能手機領域的應用呈現(xiàn)擴大之勢,此外,在教育行業(yè)、智能制造和工業(yè)、服務器領域,這家公司都帶來了實質性的落地項目。

IDC高級新興技術研究部高級研究經(jīng)理盧言霞向記者表示,近五年來,中國AI市場成就斐然,2018年中國軟件市場占據(jù)全球軟件市場規(guī)模的3.1%,中國人工智能軟件市場占據(jù)全球的15.4%,未來還有更大的增長空間。終端AI儼然是落地應用中的重要支持點。

對于終端AI市場,市場有哪些痛點呢?筆者整理了四位大咖的觀點,與工程師和電子領域的高管分享。

終端AI應用量最大,算力和功耗是兩大難題

圖:清華大學微納電子學系主任魏少軍

4月9日,清華大學微納電子學系主任魏少軍在人工智能創(chuàng)新峰會上表示,從應用需求端來看,我們發(fā)現(xiàn)應用量最大的并不在云端,而是在終端,ARM公司的專家把人工智能分成“大機器學習”、“中機器學習”和“小機器學習”,三者之間在數(shù)量上依次有二次方的增加,從108、1010再到1012。但當AI服務從云端走向終端時,要克服的困難遠遠比在云端大得多。

在邊緣上,資源和功耗都是受限的,而要解決AI問題,算力仍然需要那么大。換句話說,算力需求沒變,但資源不足,難度自然變大。這里面涉及兩個關鍵問題,一個是算力本身,一個是功耗。

在智能系統(tǒng)中,最重要的功能是實現(xiàn)智能化,軟件承載了智能化的理念和方法,而硬件只是承載智能化所需要的計算。如果能把兩者有機融合在一起,讓硬件在任何時候都能提供軟件運行所需的最佳計算效率,就能夠得到我們所需的理想計算模式。

持續(xù)創(chuàng)新!推出性能功耗比好的終端AI產(chǎn)品,搶占市場先機

圖:寒武紀創(chuàng)始人陳天石

寒武紀是國際上最早從事AI芯片研發(fā)的團隊之一,研發(fā)的終端智能處理器已經(jīng)運行在數(shù)千萬的終端設備中,研發(fā)的云端智能芯片為云端大規(guī)模智能處理提供了高性能和高性價比的芯片方案,推動人工智能計算力突破和提升。

陳天石描述寒武紀公司的戰(zhàn)略目標:“3年內占領10億智能AI終端,占領中國云端高性能芯片1/3市場份額”。在市場策略層面,如何與英偉達競爭,陳天石告訴媒體:“提供性能功耗比更好的芯片。這個市場很大,其實未見得是零和博弈?!?/strong>

早在2016年,寒武紀就研發(fā)了全球第一款商用終端AI處理器,早于國外同行兩年,寒武紀的1A處理器是世界上首款智能終端處理器IP產(chǎn)品。第一代1A已經(jīng)在四款華為手機中使用。

第二款寒武紀的IP 1H是第二代高性能、低功耗的智能終端IP產(chǎn)品,在2017年11月公開發(fā)布,這款處理器帶來了深度學習處理速度的提升和功耗的降低,在寒武紀1H帶來了AI算力的大幅提升,使能和增強人臉識別、物體識別、物體檢測、圖像分割、智能翻譯等AI場景,實現(xiàn)了從圖像識別到物體檢測的跨越。在蘇黎世聯(lián)邦理工學院的AI Benchmark測試中,搭載麒麟980(集成寒武紀1H)的華為Mate 20 Pro、Mate 20 X和Mate 20,超過了搭載麒麟970的華為P20 Pro,排在了榜首。

2018年5月,寒武紀正式發(fā)布了多個最新一代終端 IP 產(chǎn)品——采用 7nm工藝的終端芯片Cambricon 1M、首款云端智能芯片MLU100及搭載了MLU100的云端智能處理計算卡。

寒武紀創(chuàng)始人陳天石博士對公司的定位是,獨立芯片公司,服務廣大云計算、大數(shù)據(jù)、服務器廠商、互聯(lián)網(wǎng)公司和行業(yè)巨頭,為下游廠商提供不同尺寸、面向不同應用場景的終端AI處理器Ip以及覆蓋interference和training的不同處理能力的云端智能芯片。隨著華為智能手機在全球市場份額的不斷提升,寒武紀在終端AI芯片市場的認可度也不斷提升。

物聯(lián)網(wǎng)應用中,如何實現(xiàn)無處不在的AI應用?

圖:清華大學微納電子系副主任尹首一教授

智能終端的AI計算成為趨勢??紤]通訊延時、基于硬件設備、個人隱私考慮,我們需要在終端設備、傳感器,各種設備端上實現(xiàn)AI計算。這已經(jīng)成為電子行業(yè)的巨頭共識,百分之九十以上的物聯(lián)網(wǎng)設備上使用CPU是arm公司提供的內核,Google首席科學家在全球半導體大會上報告上說,Google認為,IoT景下,未來AI計算一定是分布式、分層次、分等級的綜合系統(tǒng)。

要滿足各種場景下AI計算的需求,需要考慮算力和功耗問題的平衡。例如智能手機對語音技術的應用,智能家電中有嚴苛的功耗約束,因而要在功耗受限場景下實現(xiàn)AI算法和運算就成為關鍵。

算力與場景結合,聯(lián)發(fā)科在終端AI運用領域不斷突破

聯(lián)發(fā)科技副總經(jīng)理暨家庭娛樂事業(yè)群總經(jīng)理游人杰表示,人工智能的崛起與以往不同,人工智能進入第三次革命,需要三種關鍵因素的配合:第一、物聯(lián)網(wǎng)產(chǎn)生的大數(shù)據(jù),第二、各種應用層應用多元化,尤其在2012年,Deep Learning新的演算法開發(fā)出來后,運算能力、精確率和收斂速度有了很大突破。不僅在云端,或者在終端,能力夠強。第三、算力(computation)的不斷提升。

目前,聯(lián)發(fā)科的芯片方案已經(jīng)占據(jù)了智能音箱垂直市場份額的60%-70%,大幅度領先競爭對手。聯(lián)發(fā)科的優(yōu)勢是將智能音箱方案擁有更高的硬件整合度。把第一代IC周邊電子元器件、電路等全部集成在第二代IC中,同時在軟件層面開發(fā)更智能的工具Power AQ,可通過Power AQ有效調整智能音箱的音質,加速硬件廠商把產(chǎn)品推向市場。

2019年4月18日,聯(lián)發(fā)科技發(fā)布AIoT平臺, 包含擁有高集成度和高端APU性能的i300和i500系列處理器芯片,為業(yè)界提供面向智能家居、智慧城市和智能工廠三大領域的解決方案,助力人工智能技術和物聯(lián)網(wǎng)技術的落地融合。

最早,聯(lián)發(fā)科看到了人工智能在移動手機的應用商機,自2018年初起,就推出了NeuroPilot的技術,并將之首次運用在其手機處理平臺曦力P60上。NeuroPilot是基于他們的核心監(jiān)控與調節(jié)技術CorePilot的進階版。CorePilot在2014年就已經(jīng)被開發(fā)出來,其主要作用就是動態(tài)監(jiān)控手機多核處理器的每個核心的工作負載量,并加調節(jié)和分配,以提高手機運行的性能并降低電耗。

i500高性能解決方案則是基于強大的計算能力, 結合聯(lián)發(fā)科技的人工智能平臺NeuroPilot,搭配低時延的邊緣AI處理技術,提供精準的人臉、行為和環(huán)境識別分析,大幅度提升準確度、生產(chǎn)效率和智能化水平。

游人杰指出,對于不同的芯片公司,最大的區(qū)別就是運算能力的差別。運算的處理能力在晶片里面是三個單元結合起來,我們稱之為聯(lián)合運算能力。CPU+GPU +Deep Learning加速器 ,聯(lián)發(fā)科內部做到CPU八核,CPU的運算好處是可以透過軟件的規(guī)劃,讓演算方法在開發(fā)的過程中擁有最大的彈性。GPU的運算能力,在人工智能的開發(fā)過程中,同時具備高的處理速度,還能提供中等的彈性度。第三、當你的演算方法做到比較成熟后,晶片運算功率做到更低,還需要做AI的Processing,做Deep Learning加速器或者是做視覺影像的處理器,能夠讓演算法找到最低的功耗處理。

小結

終端AI的進程在不斷加速,隨著寒武紀、MTK、耐能等國內國際廠商不斷推出新品,未來在未聯(lián)網(wǎng)應用的細分市場,會逐步誕生應用的前三甲企業(yè),在無人機、智能家居、智能硬件、智能手機都是AI未來應用增長點,企業(yè)必須研究好消費者需求的轉變,在技術能力和市場需求結合的契合度上下大功夫,在算力提升、功耗降低和運算架構支持多元應用不斷拓展,才能領先海外廠商,搶占市場的先機。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • MTK
    MTK
    +關注

    關注

    2

    文章

    178

    瀏覽量

    48158
  • 寒武紀
    +關注

    關注

    11

    文章

    185

    瀏覽量

    73846
  • AI芯片
    +關注

    關注

    17

    文章

    1851

    瀏覽量

    34860
收藏 人收藏

    評論

    相關推薦

    AI時代的重要性及現(xiàn)狀:平衡發(fā)展與優(yōu)化配置的挑戰(zhàn)

    AI時代,扮演著至關重要的角色。如果說數(shù)據(jù)是AI大模型的“燃料”,那么則是其強大的“動
    的頭像 發(fā)表于 11-04 11:45 ?264次閱讀

    億鑄科技熊大鵬探討AI芯片的挑戰(zhàn)與解決策略

    在SEMiBAY2024《HBM與存儲器技術與應用論壇》上,億鑄科技的創(chuàng)始人、董事長兼CEO熊大鵬博士發(fā)表了題為《超越極限:大芯片的技術挑戰(zhàn)與解決之道》的演講,深入剖析了AI大模型
    的頭像 發(fā)表于 10-25 11:52 ?302次閱讀

    一體架構創(chuàng)新助力國產(chǎn)大AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計算(HPC)應用論壇》上,億鑄科技高級副總裁徐芳發(fā)表了題為《存一體架構創(chuàng)新助力國產(chǎn)大
    的頭像 發(fā)表于 10-23 14:48 ?203次閱讀

    芯片 高性能 CPU/GPU/NPU 微架構分析》第1-4章閱讀心得——之巔:從基準測試到CPU微架構的深度探索

    ,還優(yōu)化了能效比,使天河二號在Green500榜單上也表現(xiàn)出色。另一方面,MLPerf的出現(xiàn)標志著AI時代對需求的變化。它涵蓋了圖像分類、目標檢測、自然語言理解、智能推薦算法、強化學習等多個
    發(fā)表于 10-19 01:21

    一文讀懂中心四大類型,深度解讀應用與趨勢

    強大計算能力的核心設施,在推動科技創(chuàng)新、產(chǎn)業(yè)升級和社會發(fā)展中扮演著不可或缺的角色。本文將詳細解析中心的四大類型,并探討它們的最新發(fā)展與應用。一、通用
    的頭像 發(fā)表于 10-17 08:05 ?400次閱讀
    一文讀懂<b class='flag-5'>算</b><b class='flag-5'>力</b>中心<b class='flag-5'>四大</b>類型,深度解讀應用與趨勢

    【「芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    、GPU、NPU,給我們剖析了芯片的微架構。書中有對芯片方案商處理器的講解,理論聯(lián)系實際,使讀者能更好理解芯片。 全書共11章,
    發(fā)表于 10-15 22:08

    青云科技強化AI架構,升級產(chǎn)品與服務體系

    10月9日,青云科技正式揭曉了其升級版的產(chǎn)品與服務陣容、行業(yè)及場景定制化解決方案,以及全新的生態(tài)戰(zhàn)略。該公司旨在通過AI平臺、AI
    的頭像 發(fā)表于 10-10 16:42 ?407次閱讀

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構分析

    社會資源和資本力量關注芯片的發(fā)展,希望我們的國家能夠更獨立自主地設計制造高性能芯片。 內容簡介: 本書介紹了超級計算機
    發(fā)表于 09-02 10:09

    大模型時代的需求

    現(xiàn)在AI已進入大模型時代,各企業(yè)都爭相部署大模型,但如何保證大模型的,以及相關的穩(wěn)定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發(fā)表于 08-20 09:04

    AI網(wǎng)絡發(fā)展的四大核心技術支柱

    AI大模型時代,隨著模型參數(shù)量與訓練集規(guī)模的爆炸性增長,單純依賴GPU單體的提升已難以滿足需求,業(yè)界焦點逐漸轉向系統(tǒng)架構層面的革新,其中,作為底層核心技術的網(wǎng)絡成為了突破的關鍵。
    的頭像 發(fā)表于 08-14 17:11 ?891次閱讀

    探秘四大主流芯片架構:誰將主宰未來科技?

    在科技日新月異的今天,芯片作為現(xiàn)代電子設備的心臟,其架構的選擇與設計顯得尤為重要。目前市場上主流的芯片架構種:X86、ARM、RISC-V和MIPS。它們各具特色,廣泛應用于各種電子設備中。本文將詳細剖析這
    的頭像 發(fā)表于 07-31 11:15 ?2082次閱讀
    探秘<b class='flag-5'>四大</b>主流芯片<b class='flag-5'>架構</b>:誰將主宰未來科技?

    半和四位半萬用表的區(qū)別

    半和四位半萬用表是電子測量領域中常用的兩種數(shù)字萬用表,它們在測量精度、顯示方式、應用范圍等方面存在一定的差異。本文將從多個方面詳細分析這兩種萬用表的區(qū)別。 一、基本概念 三半萬用表 三
    的頭像 發(fā)表于 07-14 14:23 ?4485次閱讀

    MES實施的四大疑惑

    電子發(fā)燒友網(wǎng)站提供《MES實施的四大疑惑.docx》資料免費下載
    發(fā)表于 03-01 15:35 ?0次下載

    中科曙光服務年度盤點 四大關鍵詞

    總結為以下個關鍵詞。 聚焦 —? 曙光服務緊跟市場趨勢,積極參與信通院新一代網(wǎng)技術創(chuàng)新聯(lián)盟、首批可信
    的頭像 發(fā)表于 01-04 10:34 ?565次閱讀

    淺談為AI而生的存-體芯片

    大模型爆火之后,存一體獲得了更多的關注與機會,其原因之一是因為存一體芯片的裸相比傳統(tǒng)架構AI
    發(fā)表于 12-06 15:00 ?358次閱讀
    淺談為<b class='flag-5'>AI</b>大<b class='flag-5'>算</b><b class='flag-5'>力</b>而生的存<b class='flag-5'>算</b>-體芯片