0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI算法和推理正日益依賴于終端進(jìn)行的原因

4dD0_chinacmos ? 來源:未知 ? 作者:李倩 ? 2018-05-03 16:10 ? 次閱讀

數(shù)據(jù)預(yù)測(cè),從2017年到2021年,5年時(shí)間,全球的IOT通過4G或者5G網(wǎng)絡(luò)連在一起的設(shè)備會(huì)達(dá)到200億臺(tái)。在此情景之下,作為能夠使得智能終端產(chǎn)品更加智能的AI也成為時(shí)下熱詞。萬物互聯(lián)大幕的逐漸拉起,也使得AI產(chǎn)業(yè)吸引了眾多上下游企業(yè)的參與,尤其是隨著芯片廠商以及終端品牌等的加入,AI在產(chǎn)品形態(tài)上已經(jīng)呈現(xiàn)出多種多樣??梢哉f,AI正給消費(fèi)者和整個(gè)行業(yè)帶來巨大可能性。

盡管在AI技術(shù)領(lǐng)域各家企業(yè)發(fā)力的方向有所區(qū)別,但是總體上他們對(duì)于AI的未來都已達(dá)成共識(shí),即由于在巨大的萬物互聯(lián)時(shí)代,各個(gè)設(shè)備不僅僅是要聯(lián)結(jié)在一起,而且會(huì)變得越來越智能,因此AI正以其發(fā)展的無限可能性給整個(gè)產(chǎn)業(yè)鏈帶來巨大的機(jī)會(huì)。

正如高通產(chǎn)品總監(jiān)劉學(xué)徽在4月26日由手機(jī)報(bào)在線舉辦的AI手機(jī)產(chǎn)業(yè)峰會(huì)上所表示,傳統(tǒng)意義上的AI在云上面可以做模型培訓(xùn),也可以做模型的推理。但是現(xiàn)在有一種趨勢(shì),即AI的運(yùn)算能力,尤其是推理的過程,正慢慢變得大多數(shù)是依賴終端在運(yùn)行的。這種趨勢(shì)不管是對(duì)做模組還是做算法的廠家來講,都是非常大的機(jī)會(huì)。

高通產(chǎn)品總監(jiān)劉學(xué)徽

至于AI算法和推理正日益依賴于終端進(jìn)行的原因,主要有三點(diǎn):一是隱私性。劉學(xué)徽表示,不管是手機(jī)還是各種可穿戴設(shè)備都是人在使用,而現(xiàn)在人對(duì)隱私的意識(shí)正越來越強(qiáng)。而傳統(tǒng)各種AI的算法、推理都是在云上做,這勢(shì)必就會(huì)將所有的數(shù)據(jù)都上傳到云上。相反,現(xiàn)在在終端做算法和推理,則可以避免將信息上傳至云端的過程,用戶也就可以相對(duì)放心。

二是低延時(shí)。劉學(xué)徽介紹到,不管AI怎么做,它都需要用戶的體驗(yàn),而一旦用戶體驗(yàn)差,這個(gè)產(chǎn)品或者性能就沒法推廣開。例如,現(xiàn)在非常流行的手機(jī)人臉解鎖、人臉開機(jī)就是典型的在端上使用人工智能的案例。而如果說開機(jī)的過程要把人臉信息采集傳到云端,云端算完再傳下來,這種延時(shí)性用戶是很難接受的。因此終端運(yùn)算和推理能夠很好地解決用戶對(duì)于延時(shí)性的反感問題。

三是可靠性和經(jīng)濟(jì)性。因?yàn)樵O(shè)備在端和云,端到端連接的過程會(huì)產(chǎn)生大量數(shù)據(jù)的交換,如果所有的AI能力都用云來做,勢(shì)必對(duì)帶寬的負(fù)載,包括中間通訊的可靠性等帶來很大的挑戰(zhàn)因此在終端的運(yùn)作上會(huì)在可靠性和經(jīng)濟(jì)成本上占更大的優(yōu)勢(shì)。

在介紹了端上實(shí)現(xiàn)AI的三個(gè)優(yōu)勢(shì)之后,劉學(xué)徽還重點(diǎn)強(qiáng)調(diào)了高效的硬件、算法、軟件工具以及端上AI計(jì)算和推理的重要性。其中,運(yùn)算AI的硬件能力非常關(guān)鍵,需要輕薄,且對(duì)低功耗是強(qiáng)需求,算法也不能太龐大,而是要適合終端設(shè)備商運(yùn)行,此外,軟件工具也至關(guān)重要。

在所有AI終端設(shè)備方面,就目前而言,不得不提的就是手機(jī)終端了??梢哉f,手機(jī)由于其便攜性,智能性,幾乎是被公認(rèn)的IOT的核心,它甚至可以變成各種各樣IOT的設(shè)備。

另外,在手機(jī)上的AI的方向大概有幾類。其中基于計(jì)算機(jī)視覺的應(yīng)用是當(dāng)下的主流,它包括攝像頭各種各樣的應(yīng)用場(chǎng)景,比如背景虛化、照片處理、場(chǎng)景識(shí)別與分類等。例如,vivoX21手機(jī)的個(gè)人助理應(yīng)用場(chǎng)景落地就是一個(gè)體現(xiàn),它能夠讓手機(jī)里面有一個(gè)算法感知到用戶是在車上、運(yùn)動(dòng)行走中、開車還是在地鐵里等各種場(chǎng)景,從而根據(jù)場(chǎng)景來給用戶提供對(duì)應(yīng)的便利服務(wù)。

此外,AI的運(yùn)用方向還涵蓋了設(shè)備的廠家功耗,包括資源的管理、用戶交互體驗(yàn)方面的語音交互、手勢(shì)識(shí)別以及目前出現(xiàn)的采用人工智能方法來識(shí)別病毒或者是來防范設(shè)備端到端的安全等。

作為在全球芯片制造領(lǐng)域都具有領(lǐng)先優(yōu)勢(shì)的高通來說,劉學(xué)徽還介紹了高通在AI方面的產(chǎn)品布局。主要包含三大類:硬件、軟件及框架。

其中,硬件包含INT8網(wǎng)絡(luò)、FP32及FP16網(wǎng)絡(luò)、FP32及INT88位網(wǎng)絡(luò),軟件是硬件和應(yīng)用之間的橋梁,高通軟件包括一套SNPE的開發(fā)工具,以及支持Android和Hexagon NN的庫(kù)??蚣苡蠧affeCaffe2、TensorFlowTensorFlowLite、ONNX。以上就構(gòu)成了AI E的產(chǎn)品系列。

此外,劉學(xué)會(huì)還強(qiáng)調(diào),做最終的產(chǎn)品和最終的應(yīng)用,需要和業(yè)內(nèi)各方面領(lǐng)先的企業(yè)進(jìn)行合作,例如,在國(guó)內(nèi)高通與商湯、Face ++、騰訊、百度有合作,國(guó)際上和Google在TensorFlow方面有深度合作。值得一提的是,驍龍芯片,AI產(chǎn)品還是TensorFlow第一個(gè)終端上的商用芯片。

總體來說,終端AI是非常龐大的生態(tài)系統(tǒng),沒有一家公司可以把所有事情做掉,類似高通這種實(shí)力型的企業(yè),其AI生態(tài)系統(tǒng)在支持多種框架和多種操作系統(tǒng)的同時(shí),也仍然在積極開展與領(lǐng)先的AI算法公司、云服務(wù)商以及互聯(lián)網(wǎng)廠家的深度合作,追求提供多樣的應(yīng)用場(chǎng)景的技術(shù)來與終端設(shè)備廠家進(jìn)行配合。

可想而知的是,只有如此通力合作,整個(gè)AI手機(jī)產(chǎn)業(yè)鏈才能最終為消費(fèi)者提供更加豐富的應(yīng)用場(chǎng)景,為終端產(chǎn)品增加更多的價(jià)值。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 高通
    +關(guān)注

    關(guān)注

    76

    文章

    7431

    瀏覽量

    190245
  • 萬物互聯(lián)
    +關(guān)注

    關(guān)注

    1

    文章

    223

    瀏覽量

    14094
  • ai技術(shù)
    +關(guān)注

    關(guān)注

    1

    文章

    1250

    瀏覽量

    24207

原文標(biāo)題:高通:物聯(lián)設(shè)備5年將達(dá)200億臺(tái),終端AI大勢(shì)所趨

文章出處:【微信號(hào):chinacmos,微信公眾號(hào):攝像頭觀察】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得

    。 4. 物理與AI的融合 在閱讀過程中,我對(duì)于物理與AI的融合有了更加深入的認(rèn)識(shí)。AI for Science不僅依賴于數(shù)據(jù),還需要結(jié)合物理定律和原理來確保模型的準(zhǔn)確性和可解釋性。這
    發(fā)表于 10-14 09:16

    隧道定位導(dǎo)航技術(shù)主要依賴于哪些原理或技術(shù)

    在交通運(yùn)輸領(lǐng)域,隧道作為連接不同區(qū)域的重要通道,其內(nèi)部的安全與效率問題一直備受關(guān)注。尤其是在隧道內(nèi),由于山體或建筑物的遮擋,衛(wèi)星信號(hào)往往無法直接到達(dá),傳統(tǒng)的GPS等衛(wèi)星導(dǎo)航定位技術(shù)在隧道內(nèi)難以正常工作。因此,隧道定位導(dǎo)航技術(shù)的發(fā)展顯得尤為重要。那么,隧道定位導(dǎo)航技術(shù)主要依賴于哪些原理或技術(shù)呢?
    的頭像 發(fā)表于 08-14 11:04 ?335次閱讀

    計(jì)算機(jī)視覺技術(shù)的AI算法模型

    計(jì)算機(jī)視覺技術(shù)作為人工智能領(lǐng)域的一個(gè)重要分支,旨在使計(jì)算機(jī)能夠像人類一樣理解和解釋圖像及視頻中的信息。為了實(shí)現(xiàn)這一目標(biāo),計(jì)算機(jī)視覺技術(shù)依賴于多種先進(jìn)的AI算法模型。以下將詳細(xì)介紹幾種常見的計(jì)算機(jī)視覺
    的頭像 發(fā)表于 07-24 12:46 ?554次閱讀

    ai服務(wù)器是什么架構(gòu)類型

    架構(gòu)的AI服務(wù)器通常具有較高的通用性,可以運(yùn)行各種人工智能算法。但是,CPU架構(gòu)的AI服務(wù)器在處理大規(guī)模并行計(jì)算時(shí),性能可能不如GPU架構(gòu)的AI服務(wù)器。 GPU架構(gòu) GPU架構(gòu)的
    的頭像 發(fā)表于 07-02 09:51 ?885次閱讀

    邊緣AI硬件技術(shù)、算法、平臺(tái)正在不斷創(chuàng)新/升級(jí)優(yōu)化

    依賴于集中式云計(jì)算設(shè)施或異地?cái)?shù)據(jù)中心。 邊緣AI 發(fā)展歷程 ? 邊緣AI可以廣泛應(yīng)用于各種行業(yè)和場(chǎng)景中,包括制造業(yè)、醫(yī)療保健、能源、零售、交通等。例如,在智能制造中,邊緣AI可以實(shí)時(shí)處
    的頭像 發(fā)表于 06-05 00:09 ?2668次閱讀

    如何基于OrangePi?AIpro開發(fā)AI推理應(yīng)用

    。通過昇騰CANN軟件棧的AI編程接口,可滿足大多數(shù)AI算法原型驗(yàn)證、推理應(yīng)用開發(fā)的需求。AscendCL(AscendComputingLanguage,昇騰計(jì)算
    的頭像 發(fā)表于 06-04 14:23 ?439次閱讀
    如何基于OrangePi?AIpro開發(fā)<b class='flag-5'>AI</b><b class='flag-5'>推理</b>應(yīng)用

    小數(shù)據(jù)低能耗AI:智慧AI時(shí)代的開啟

    此刻,人們殷切期望能夠?qū)崿F(xiàn)體積較小且消耗能量較少的AI技術(shù)。實(shí)際上,一種低能耗但高效的AI模型已經(jīng)初露端倪,AGI時(shí)代的機(jī)器學(xué)習(xí)主要依賴于高斯過程理論,利用概率尺度進(jìn)行自組織,從而獲取
    的頭像 發(fā)表于 05-13 17:00 ?680次閱讀

    蘋果研發(fā)設(shè)備端大語言模型,提升AI性能與隱私保護(hù)

    古爾曼在“Power On”通訊中稱,這款蘋果LLM有望作為未來生成式AI功能的基石,并與現(xiàn)有云端AI服務(wù)明顯區(qū)別開來,該模型將會(huì)完全依賴于用戶設(shè)備進(jìn)行運(yùn)作。
    的頭像 發(fā)表于 04-22 11:04 ?240次閱讀

    開發(fā)者手機(jī) AI - 目標(biāo)識(shí)別 demo

    識(shí)別demo: JS實(shí)現(xiàn)UI界面的功能; Native接口及實(shí)現(xiàn)主要為JS提供接口進(jìn)行AI推理。通過Native方式完成推理的前處理、推理
    發(fā)表于 04-11 16:14

    Groq LPU崛起,AI芯片主戰(zhàn)場(chǎng)從訓(xùn)練轉(zhuǎn)向推理

    人工智能推理的重要性日益凸顯,高效運(yùn)行端側(cè)大模型及AI軟件背后的核心技術(shù)正是推理。不久的未來,全球芯片制造商的主要市場(chǎng)將全面轉(zhuǎn)向人工智能推理
    的頭像 發(fā)表于 02-29 16:46 ?1065次閱讀

    分析 丨AI算法愈加復(fù)雜,但是機(jī)器視覺的開發(fā)門檻在降低

    機(jī)器視覺系統(tǒng)依賴于機(jī)器學(xué)習(xí)(machine learn)和深度學(xué)習(xí)(deep learn),尤其是深度學(xué)習(xí)的重要分支“卷積神經(jīng)網(wǎng)絡(luò)”在圖像識(shí)別領(lǐng)域的應(yīng)用,使機(jī)器視覺能夠從原始像素?cái)?shù)據(jù)中直接學(xué)習(xí)特征并
    的頭像 發(fā)表于 02-19 16:49 ?611次閱讀
    分析 丨<b class='flag-5'>AI</b><b class='flag-5'>算法</b>愈加復(fù)雜,但是機(jī)器視覺的開發(fā)門檻在降低

    FX3 GPIF是否依賴于USB?

    我們基于 FX3 的設(shè)備 CAN 由電池供電,因此只需要 USB 即可打開電源,直到切換到電池作為電源。 FPGA 與 GPIF 相連。 但是,我們觀察到,只要 USB 斷開連接,GPIF事務(wù)就會(huì)失敗。 GPIF是否依賴于USB?
    發(fā)表于 01-29 08:34

    Snapdragon Seamless技術(shù)賦能智能終端共同協(xié)作

    智能手機(jī)、平板、電腦、耳機(jī)、智能手表、XR頭顯甚至是智能汽車,我們每天都依賴于廣泛的終端來完成工作、安排日常生活并進(jìn)行娛樂。Snapdragon Seamless技術(shù)賦能上述智能終端
    的頭像 發(fā)表于 01-08 09:55 ?539次閱讀

    AI算法在RZ/V芯片中的移植推理流程

    之前文章已介紹了一些AI算法Demo的應(yīng)用 ,我們提供從模型訓(xùn)練到RZ/V系列嵌入式端推理應(yīng)用的完整流程。整體流程如下圖所示。
    的頭像 發(fā)表于 12-20 12:21 ?1000次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>算法</b>在RZ/V芯片中的移植<b class='flag-5'>推理</b>流程

    HarmonyOS:使用MindSpore Lite引擎進(jìn)行模型推理

    ; } 執(zhí)行推理。 使用 OH_AI_ModelPredict 接口進(jìn)行模型推理。 // 執(zhí)行模型推理 OH_
    發(fā)表于 12-14 11:41