我們普通人和大模型的距離有多遠?AI發(fā)展到2024年,已經(jīng)附著在各種智能硬件上了,什么AI PC,AI手機,AI藍牙音箱,AI學習機,AI鼠標等等,但其實雖然很多產(chǎn)品加上了個AI的名頭,但用起來總讓人想罵一句“人工智障”。手機、音箱里的“小藝小愛”們,只能做些約定俗成框架里的事,目前用起來是沒感覺他能學習的。但AI PC貌似可以走完我與大模型的“最后一公里”,讓每一個普通人都能夠擁有昂貴的大模型。
主流AI PC芯片盤點及應用情況
2023年9月,AI PC的概念被首次提出,到2024年2月,英特爾在 MWC 2024 上表示,將會和宏碁、華碩、戴爾、Dynabook、富士通、惠普、聯(lián)想、LG、微軟 Surface、NEC、松下、三星和 VAIO 等公司合作,推出超過 100 款搭載英特爾最新AI PC芯片的商用筆記本電腦、臺式機、一體機和入門工作站。在AI PC概念逐漸被市場認可后,各大老牌芯片巨頭都緊跟推出新品。10 月,AMD Ryzen 7040系列筆記本電腦配備了基于Xilinx IP的專用AI引擎,名為“Ryzen AI”,可以加速 PyTorch和TensorFlow等機器學習框架的運行;同為10月,高通針對AI PC發(fā)布X Elite芯片;2024年1月,NVIDIA推出三款裝載額外裝置的全新顯卡,稱用戶可以在“AI PC”上使用AI功能。目前,英特爾、高通、AMD、蘋果等芯片處理器廠商已推出針對AI PC的處理器,聯(lián)想、華碩、戴爾、榮耀等品牌廠商也在積極推動AI PC的發(fā)展。
雖然有各種各樣的AI PC的處理器,但基本上各廠商通用計算架構(gòu)都采用了“CPU+GPU+NPU”的異構(gòu)方案。
圖注:高通、英特爾、AMD的AI PC處理器
大模型的本地運行需要強大的AI算力,因此,在傳統(tǒng)的CPU+GPU方案里加多了一個嵌入式神經(jīng)網(wǎng)絡處理器—NPU。NPU是一種專門用于處理人工神經(jīng)網(wǎng)絡計算的計算機微處理器,用于深度學習,對神經(jīng)網(wǎng)絡工作負責進行憂化。CPU做主控、GPU 做渲染、NPU 做 AI 加速,三種芯片結(jié)合,能實現(xiàn)更快速、更高效率的邊緣AI模型推理。
高通用驍龍X Elite殺進PC領域,英特爾占領AI PC市場氣勢很足
微軟宣布其AI PC的最低算力為40 TOPS,目前市場上的英特爾酷睿Ultra (34 TOS) 和AMD 銳龍 8040 (39 TOPS)都不能滿足這一標準。除了裝有AI專用顯卡的筆記本之外,目前只有高通的驍龍X Elite(45 TOPS)能達到這性能要求。據(jù)預期,2024年下半年推出的AMD 銳龍8050和英特爾Ultra 200這兩款處理器也將符合微軟規(guī)定的40 TOPS。
從算力來看,高通確實是領先于目前其他AI PC處理器一步,但英特爾在PC芯片上的生態(tài)地位難以撼動,而在驍龍X Elite之前,高通在PC領域一直沒有太大聲響。然而在驍龍X Elite的發(fā)布會上,高通很狂,拉出蘋果和AMD出來比較,喊話“我們單線程性能超越了蘋果 M2 Max!并且同性能功耗比蘋果還低 30%!” “英特爾也是一樣”“比 AMD 的核顯還強 80%!”
圖注:高通發(fā)布會上拿英特爾i9-13980HX進行對比功耗
圖注:高通發(fā)布會上拿AMD Ryzen 9-7940HS進行對比GPU性能
PPT數(shù)據(jù)很強大,也有很多PC OEM廠商會搭載,微軟、聯(lián)想、惠普、宏碁、華碩、三星等筆記本傳統(tǒng)玩家,還有小米和榮耀。
同樣有許多PC OEM站臺的還有英特爾,英特爾在 MWC 2024 上推出全新的 vPro 平臺,涵蓋新款酷睿 Ultra 和第 14 代處理器,介紹 是一個商業(yè)計算平臺,主要面向企業(yè)用戶,將會和宏碁、華碩、戴爾、Dynabook、富士通、惠普、聯(lián)想、LG、微軟 Surface、NEC、松下、三星和 VAIO 等公司合作,推出超過 100 款搭載英特爾最新芯片的商用筆記本電腦、臺式機、一體機和入門工作站。這羅列的商家和數(shù)據(jù),頗有一種占領PC市場的野心和氣勢。
AMD Ryzen AI產(chǎn)品已經(jīng)開始出貨
AMD的AI產(chǎn)品組合涵蓋云端、高性能計算、企業(yè)級、PC、嵌入式等應用,其AI 戰(zhàn)略基于三個關(guān)鍵要素:產(chǎn)品、架構(gòu)和開放生態(tài)系統(tǒng)。
集成AI引擎的Ryzen 7040、8040、8045等移動系列CPU是產(chǎn)品組合中的一部分,其中,Ryzen 8040系列已經(jīng)開始出貨,相關(guān)終端會在Q1上市。此外,AMD還有Ryzen 8000G系列桌面APU產(chǎn)品,同樣基于臺積電4nm制程,均提供最多8個Zen4架構(gòu)的CPU核心,集成有最高768SP配置的RDNA3架構(gòu)核顯,可支持硬件光追和AFMF技術(shù)。
目前,基于Ryzen AI技術(shù)的產(chǎn)品已經(jīng)被用于聯(lián)想、華碩、宏碁等品牌電腦中,這些AI PC通過Ryzen系列產(chǎn)品內(nèi)置的神經(jīng)處理單元(NPU)提供低功耗、高效率的AI計算能力,加快圖片和視頻處理、語音識別、文字轉(zhuǎn)錄等AI相關(guān)的本地應用處理速度,從而提升用戶的生產(chǎn)力和娛樂體驗。
Arm架構(gòu)或受益于AI PC浪潮
相比x86架構(gòu),Arm的優(yōu)勢在于低成本、低功耗、日益加強的性能和系統(tǒng)通用性以及海量終端設備生態(tài),這些優(yōu)勢有望在移動終端AI PC上得到發(fā)揮。Counterpoint Research預測,隨著Arm芯片迭代及性能持續(xù)提升,蘋果、三星、聯(lián)發(fā)科等國際大廠紛紛試水基于Arm架構(gòu)的PC芯片,未來Arm有望于2027年占據(jù)全球Notebook CPU/SoC出貨量25%的市場份額。前文提到的高通驍龍X Elite處理器,其內(nèi)部的Oryon CPU是由高通公司開發(fā)的基于Arm指令集的完全定制化設計的處理器核心。不同于傳統(tǒng)的Arm Cortex公版架構(gòu),Oryon是高通在收購NUVIA后推出的全新CPU內(nèi)核,專為提升移動計算和筆記本電腦等設備的性能及能效而打造。另外有消息稱,NVIDIA和AMD已經(jīng)開始設計基于Arm的PC芯片,并將運行Windows操作系統(tǒng),并最早在2025年推出。而在此之前,微軟首款Surface平板電腦Surface RT采用了NVIDIA基于Arm的Tegra處理器,但Windows RT未能產(chǎn)生太大市場反響。根據(jù)外媒Windows Central的一份報告顯示,Microsoft正準備使用新的AI功能升級其Surface產(chǎn)品線,或于2024年發(fā)布的 Surface Pro 10 和 Surface Laptop 6 將配備下一代神經(jīng)處理單元 (NPU),并具有英特爾和Arm處理器兩種選項。在更遠的2025年還可能會有更新的 Surface Laptop Studio。微軟很早就在其產(chǎn)品中支持Arm架構(gòu)處理器,Windows RT是微軟最早嘗試在Arm架構(gòu)上運行Windows的一個版本,最新的Windows 11繼續(xù)支持Arm架構(gòu),并且在兼容性、性能和用戶體驗上進行了改進,支持更多應用程序原生運行在Arm設備上,同時通過模擬技術(shù)讓更多x64應用可以在Arm設備上運行。微軟還與高通、三星等硬件制造商合作,推出了多款搭載Arm處理器并運行Windows 10 on ARM系統(tǒng)的設備,如搭載高通驍龍系列處理器的始終連接PC(Always Connected PCs),這些設備結(jié)合了智能手機的長久續(xù)航和始終在線的特點與PC生產(chǎn)力工具屬性。微軟在AI PC生態(tài)中除了廣泛硬件兼容,還具有一個比較重要的產(chǎn)品,也就是AI助手Copilot,其賦予了用戶全新的交互方式,讓AI更加緊密地融入個人電腦的操作和使用過程中,使得AI不再是抽象的概念,而是實實在在提升生產(chǎn)力和便利性的工具。
小結(jié)
AI PC為處理器芯片廠商和PC廠商創(chuàng)造了機遇,比較顯著的革新趨勢之一是通過在CPU、GPU或?qū)S肗PU中集成AI加速單元,提供更高的計算效率和更低的能耗,各主要處理器廠商均有產(chǎn)品落地,本文對這些處理器做了介紹。AI應用場景比較豐富,因此處理器的另一個趨勢是定制化,這需要處理器廠商與操作系統(tǒng)開發(fā)商、AI框架開發(fā)者、ODM/OEM廠商緊密合作,共同推廣AI應用和服務,打造獨特賣點,提高產(chǎn)品附加值。
審核編輯 黃宇
-
ARM
+關(guān)注
關(guān)注
134文章
8967瀏覽量
365028 -
英特爾
+關(guān)注
關(guān)注
60文章
9748瀏覽量
170644 -
PC
+關(guān)注
關(guān)注
9文章
2030瀏覽量
153548 -
AI
+關(guān)注
關(guān)注
87文章
28877瀏覽量
266221 -
MWC
+關(guān)注
關(guān)注
1文章
567瀏覽量
45894 -
AI PC
+關(guān)注
關(guān)注
0文章
118瀏覽量
112
發(fā)布評論請先 登錄
相關(guān)推薦
評論