趁著AI浪潮,手機(jī)廠商爭(zhēng)先搶灘AI手機(jī)領(lǐng)域,智能手機(jī)開始步入AI新時(shí)代。AI手機(jī)不需要借助第三方App,而是通過(guò)手機(jī)自身的算力,直接成為用戶的智能助手。但手機(jī)的AI應(yīng)用能有多少,是否只是手機(jī)廠商為促進(jìn)銷量的營(yíng)銷噱頭,AI手機(jī)會(huì)不會(huì)重蹈折疊屏的覆轍目前還有待商榷。
各手機(jī)廠商發(fā)展AI的策略和產(chǎn)品
市場(chǎng)上已有AI手機(jī)在售,三星、華為、小米、OPPO、vivo、榮耀都推出了自家的旗艦AI手機(jī),AI附加圍繞“AI芯片+AI智能系統(tǒng)+AI開放生態(tài)”三個(gè)賦能。
三星Galaxy S24:搭載了高通驍龍8 Gen3處理器,內(nèi)置了強(qiáng)大的AI芯片,與谷歌合作搭載了Gemini AI大模型。其AI功能不僅限于拍照優(yōu)化和語(yǔ)音識(shí)別,還深入到了系統(tǒng)層面,如智能管理電池壽命、優(yōu)化應(yīng)用程序性能等。Galaxy S24還引入了先進(jìn)的AI攝影技術(shù),如AI場(chǎng)景識(shí)別、AI超分辨率等,為用戶帶來(lái)出色的拍照體驗(yàn)。
華為Mate60 Pro:使用了華為自研的麒麟系列芯片,內(nèi)置了強(qiáng)大的AI處理能力,并搭載了盤古大模型,具備新一代NPU神經(jīng)網(wǎng)絡(luò)處理器,可以直接連接華為云端的AI大模型,為本地的照片增強(qiáng)畫質(zhì),“AI云增強(qiáng)”功能。
小米手機(jī)14:小米自研AI大模型,可以在手機(jī)上離線使用“文生圖”、“AI擴(kuò)圖”與“AI擦除”功能。小愛(ài)AI大模型同時(shí)深入融合小米澎湃OS系統(tǒng),已經(jīng)構(gòu)建了多項(xiàng)AI賦能。搭載了高通驍龍?zhí)幚砥?,?nèi)置了強(qiáng)大的AI芯片。小米14在拍照、語(yǔ)音識(shí)別、智能推薦等方面都有出色的表現(xiàn)。此外,小米還通過(guò)AI技術(shù)優(yōu)化了手機(jī)的性能和續(xù)航,為用戶帶來(lái)更加流暢和持久的體驗(yàn)。
還有其他本文不多加贅述,感興趣的朋友可以自行搜索。對(duì)比6款A(yù)I手機(jī),可以發(fā)現(xiàn)手機(jī)的智能化應(yīng)用比較單一和局限,更多的是體現(xiàn)在智能助手服務(wù)和圖片上,最常見的智能語(yǔ)音助手、AI攝影/拍照、AI翻譯、手機(jī)性能的AI智能優(yōu)化。
手機(jī)AI多為端側(cè)AI,應(yīng)用側(cè)重于推理運(yùn)算
云是云計(jì)算,邊是邊緣計(jì)算,端是設(shè)備端也就是我們常說(shuō)的終端。很多生成式AI應(yīng)用都跑在云端,但如果應(yīng)用場(chǎng)景是人們時(shí)常接觸的設(shè)備,那數(shù)據(jù)跑在端側(cè)會(huì)更高效。
用手機(jī)人臉識(shí)別舉個(gè)例子,手機(jī)攝像拍照之后把圖像傳到CPU,然后CPU調(diào)用本地AI做數(shù)據(jù)處理,從而實(shí)現(xiàn)人臉匹配,再根據(jù)結(jié)果進(jìn)行開鎖、報(bào)警等動(dòng)作執(zhí)行。整個(gè)Al的過(guò)程都在設(shè)備端,不用連接云,也不用連接邊緣。
對(duì)于AI手機(jī)而言,端側(cè)AI有很多好處,因?yàn)椴挥寐?lián)網(wǎng)可以在本地運(yùn)行,不到云上處理且不受網(wǎng)絡(luò)限制,所以速度快且低功耗。最重要的是數(shù)據(jù)不上傳到云端,就不用擔(dān)憂隱私問(wèn)題,相對(duì)而言安全很多。
AMD CEO蘇姿豐說(shuō)過(guò),未來(lái)大模型推理市場(chǎng)的規(guī)模將遠(yuǎn)遠(yuǎn)大于模型訓(xùn)練市場(chǎng),把AI手機(jī)市場(chǎng)帶入進(jìn)來(lái)就很好理解了。華米OV這些頭部手機(jī)廠商已然在AI大模型賽道集結(jié),華為有盤古大模型,小米有AI大模型MiLM-6B,OPPO有安第斯大模型(AndesGPT),vivo也有藍(lán)心大模型BlueLM,榮耀有基本上這些已經(jīng)訓(xùn)練好的大模型會(huì)植入到每部手機(jī)上,每個(gè)用戶喂給手機(jī)的數(shù)據(jù)和習(xí)慣將基于手機(jī)廠商的大模型進(jìn)行,因此用戶對(duì)于AI的應(yīng)用大多側(cè)重于推理。
NPU在AI手機(jī)的異構(gòu)處理器中更加普遍
蘋果在2017年率先在A11芯片組中引入NPU;華為于2018年將NPU嵌入到其麒麟970 SoC中;高通在800系列芯片組逐漸強(qiáng)化AI引擎;聯(lián)發(fā)科、三星也將NPU集成到產(chǎn)品中。
手機(jī)處理器SoC集成NPU變得普遍,并將NPU用于加速卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)等深度學(xué)習(xí)運(yùn)算,高效執(zhí)行大規(guī)模并行矩陣乘法和向量運(yùn)算,提高在圖像識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理等方面的性能。
IDC資料顯示,下一代AI手機(jī)處理器SoC更快更高效運(yùn)行生成式AI的模型,滿足Stable Diffusion和各種LLM用例,NPU性能至少要求30 TOPS。
圖注:NPU隨著不斷變化的AI用例持續(xù)演進(jìn)(圖源:高通)NPU結(jié)構(gòu)、指令集和緩存針對(duì)高效運(yùn)行神經(jīng)網(wǎng)絡(luò)算法而優(yōu)化,因此,在AI手機(jī)這樣的資源有限且對(duì)功耗敏感的平臺(tái)上,通常由NPU作為主要的AI計(jì)算單元,能夠更好地平衡性能與能耗之間的關(guān)系,并為用戶提供更佳AI體驗(yàn)。
此外,許多AI應(yīng)用需要快速響應(yīng)用戶請(qǐng)求,進(jìn)行實(shí)時(shí)推理和決策,NPU在處理小到中等規(guī)模的神經(jīng)網(wǎng)絡(luò)模型時(shí),通常能夠提供更低延遲的服務(wù),滿足實(shí)時(shí)性要求。
集成NPU的處理器、NPU IP的例子包括:
高通Hexagon NPU,面向以低功耗實(shí)現(xiàn)持續(xù)穩(wěn)定的高性能AI推理而設(shè)計(jì),可通過(guò)定制設(shè)計(jì)NPU并控制指令集架構(gòu)(ISA),快速進(jìn)行設(shè)計(jì)演進(jìn)和擴(kuò)展,解決瓶頸問(wèn)題并優(yōu)化性能。驍龍8 Gen3采用的高通AI引擎就包含Hexagon NPU。
芯原VIP9000系列NPU IP,提供可擴(kuò)展和高性能的處理能力,適用于Transformer和卷積神經(jīng)網(wǎng)絡(luò)(CNN)。芯原聲稱,集成了芯原神經(jīng)網(wǎng)絡(luò)處理器(NPU)IP的人工智能(AI)類芯片已在全球范圍內(nèi)出貨已經(jīng)超過(guò)1億顆。
瑞芯微在過(guò)去幾年已經(jīng)迭代了4代NPU的IP,不斷提升對(duì)神經(jīng)網(wǎng)絡(luò)模型的支持、效率,形成人工智能技術(shù)上良好的基礎(chǔ)。2023年半年報(bào)顯示,其自研的NPU已經(jīng)滿足基于Transformer架構(gòu)的大模型需求,形成人工智能技術(shù)上良好的基礎(chǔ)。
AI算力需求或推動(dòng)手機(jī)存儲(chǔ)器件升級(jí)
當(dāng)前的基本AI功能在移動(dòng)設(shè)備上使用大約100MB的內(nèi)存,但基于LLM的功能可能需要高達(dá)7GB的額外DRAM。16GB DRAM被認(rèn)為是下一代AI智能手機(jī)的最低要求。在擴(kuò)大存儲(chǔ)容量的同時(shí),減少內(nèi)存占用的技術(shù)(比如參數(shù)量化)對(duì)于縮小在數(shù)據(jù)中心訓(xùn)練的大型模型,使其適用于諸如手機(jī)的便攜設(shè)備是必要的。另一個(gè)減小LLM規(guī)模的方法是將數(shù)據(jù)類型遷移到INT8,雖然降低推理精度,但能解決硬件限制問(wèn)題。手機(jī)制造商正在尋找更多實(shí)現(xiàn)LLM的方法,降低額外內(nèi)存需求產(chǎn)生的成本。機(jī)構(gòu)YOLE預(yù)計(jì),高端Android機(jī)型和iPhone可能在2024年和2025年率先添加更多DRAM和AI功能。16GB的高端智能手機(jī)足以滿足7B參數(shù)LLM,較小的LLM可能能夠在12GB的設(shè)備上運(yùn)行。然而,在人工智能采用周期的早期階段,LLM將在多大程度上增加內(nèi)存需求還有待確定。
圖注:AI模型大小影響手機(jī)、PC存儲(chǔ)的容量和數(shù)據(jù)類型(圖源:YOLE)AI手機(jī)對(duì)NAND存儲(chǔ)器的影響預(yù)計(jì)相對(duì)有限。AI使用NAND存儲(chǔ)模型參數(shù),以及與智能手機(jī)上所有文件相關(guān)的元數(shù)據(jù)。AI應(yīng)用生成的內(nèi)容所需的額外存儲(chǔ)量沒(méi)有確定的大小,但可能會(huì)加速低存儲(chǔ)容量配置手機(jī)的淘汰。還要指出的是,延遲是AI應(yīng)用性能的關(guān)鍵,較大的模型需要更快的存儲(chǔ)接口,生成式AI在手機(jī)的應(yīng)用可能會(huì)加速采用最先進(jìn)的存儲(chǔ)器類型和接口標(biāo)準(zhǔn)。一個(gè)產(chǎn)品例子是,榮耀最新旗艦AI智能手機(jī)榮耀Magic6 Pro利用美光的UFS 4.0接口標(biāo)準(zhǔn)移動(dòng)閃存、低功耗雙倍數(shù)據(jù)速率5X(LPDDR5X)內(nèi)存,支持70億參數(shù)的MagicLM的大型語(yǔ)言模型。
小結(jié)
AI手機(jī)是智能手機(jī)產(chǎn)業(yè)技術(shù)進(jìn)步與市場(chǎng)需求相結(jié)合的產(chǎn)物,AI技術(shù)將進(jìn)一步融入到手機(jī)的拍照、語(yǔ)音識(shí)別、手勢(shì)控制、個(gè)性化推薦等功能中,用于提升用戶體驗(yàn),更精準(zhǔn)理解和滿足用戶的個(gè)性化需求。圍繞AI手機(jī)的硬件軟件創(chuàng)新將持續(xù),有望將AI技術(shù)延伸到電池管理、網(wǎng)絡(luò)連接、安全防護(hù)等更加廣泛的手機(jī)應(yīng)用場(chǎng)景中。
審核編輯 黃宇
-
芯片
+關(guān)注
關(guān)注
452文章
50206瀏覽量
420891 -
AI
+關(guān)注
關(guān)注
87文章
29806瀏覽量
268103 -
ai手機(jī)
+關(guān)注
關(guān)注
0文章
43瀏覽量
3221
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論