什么是混合AI？混合AI優(yōu)勢在哪？

從PC到手機到下一代硬件，我們認(rèn)為每一代，操作系統(tǒng)+計算架構(gòu)+交互方式+信息輸入+應(yīng)用生態(tài)的每一層均有革命性變化。我們相信多模態(tài)大模型為新一代操作系統(tǒng)變革的強音。

為了支持新一代計算架構(gòu)，海外大廠在芯片端持續(xù)變革。高通混合AI，Intel NPU架構(gòu)，英偉達(dá)顯卡中Tensor Core更好應(yīng)用，AMD GPU變革等等變化的發(fā)生均可管中窺豹，Intel NPU基于其內(nèi)核有望更多分擔(dān)低延遲低耗能要求的諸多AI應(yīng)用計算負(fù)載，如視頻會議，語音降噪。 ? ?

1、英特爾：新一代計算架構(gòu)，Meteor Lake首次內(nèi)置NPU用于AI

2023 Intel Innovation上，Intel發(fā)布用于AIPC的新一代Meteor Lake處理器，并首次內(nèi)置NPU用于AI本地推理加速。

Meteor Lake首次集成了NPU（神經(jīng)處理單元），用于AI本地推理加速，從而使其具備更強大的AI負(fù)載處理能力；采用了Intel 4制程節(jié)點、最新一代的能效核（Crestmont）和性能核（Redwood Cove）以及低功耗能效核構(gòu)成的3D高性能混合架構(gòu)，在能耗比方面實現(xiàn)顯著進(jìn)步。英特爾測試證明采用NPU跑SD的能效將高于只采用GPU。封裝技術(shù)上，Meteor Lake首次采用基于Foveros封裝技術(shù)的芯粒技術(shù)。

相較于GPU適合高并發(fā)、高吞吐需求的AI工作，NPU是低功耗的AI引擎，用于持續(xù)性的AI負(fù)載（視頻會議，需求AI實現(xiàn)眼神矯正、畫面超分或語音降噪等工作）。

2、高通：混合AI或成為趨勢，搶先進(jìn)行終端側(cè)AI部署

生成式 AI 模型對計算基礎(chǔ)設(shè)施需求極高，模型的推理隨著用戶數(shù)量和使用頻率的增加而不斷上升，云端推理成本劇增，這導(dǎo)致規(guī)?；瘮U展難以持續(xù)。混合AI為此提供了解決方案，不僅結(jié)合了云端與邊緣終端協(xié)同處理AI計算負(fù)載，還根據(jù)場景和需求靈活分配工作，從而優(yōu)化了用戶體驗和資源利用。

什么是混合AI？混合AI指終端和云端協(xié)同工作，在適當(dāng)?shù)膱鼍昂蜁r間下分配AI計算的工作負(fù)載，以提供更好的體驗，并高效利用資源。

在一些場景下計算將主要以終端為中心，在必要時向云端分流任務(wù)。而在以云為中心的場景下，終端將根據(jù)自身能力，在可能的情況下從云端分擔(dān)一些AI工作負(fù)載。

混合AI優(yōu)勢在哪？混合AI架構(gòu)擁有成本、能耗、性能、隱私、安全和個性化優(yōu)勢。以成本為例，生成式AI的每次搜索查詢成本是傳統(tǒng)搜索方法的10倍，將一些處理從云端轉(zhuǎn)移到邊緣終端可以減輕云基礎(chǔ)設(shè)施的壓力并減少開支，從而助力生成式AI的持續(xù)規(guī)?；瘮U展。

節(jié)省成本也能促進(jìn)生成式AI生態(tài)系統(tǒng)發(fā)展，支持OEM廠商、ISV和應(yīng)用開發(fā)者更經(jīng)濟(jì)實惠地打造應(yīng)用。比如開發(fā)者可以基于完全在終端上運行的Stable Diffusion創(chuàng)建應(yīng)用程序，對于生成的每個圖像承擔(dān)更低的查詢成本，或完全沒有成本。

憑借賦能數(shù)十億邊緣終端的終端側(cè) AI 領(lǐng)導(dǎo)力，高通助力打造混合 AI 新時代。高通采用可擴展的技術(shù)架構(gòu)以及高度優(yōu)化的 AI 軟件棧，可在不同終端和模型上進(jìn)行工作。此外，高通AI引擎已賦能廣泛的終端品類，包括智能手機、XR、平板電腦、PC、安防攝像頭、機器人和汽車等。

3、Meta：發(fā)布新一代Quest 3和Ray-Ben Meta，或與AI能力結(jié)合

2023 Meta Connect開發(fā)者大會上，Meta推出了新一代的Quest 3和智能眼鏡，提出MR+AI+智能眼鏡的組合或是未來趨勢。Quest3和Ray-Ben Meta在配置和性能上相比上一代有了進(jìn)一步提升，兩款產(chǎn)品內(nèi)都將加入Meta的AI聊天機器人Meta AI。

Quest 3性能全面提升：性能，采用 Snapdragon XR2 Gen 2 ，與Quest相比提供兩倍的 GPU 處理能力，實現(xiàn)更快的加載時間和更無縫的使用體驗。混合現(xiàn)實能力，2 個 RGB 攝像頭，角度像素密度（PPD）達(dá)到18，分辨率是 Quest 2 的 10 倍，透傳分辨率是 Quest Pro 的 2 倍。提供全彩、高保真的周圍環(huán)境視圖，且能看到虛擬物體出現(xiàn)在物理空間中。音響，集成式立體聲揚聲器具有3D 空間音頻功能，音量、低音范圍和最佳 L/R 匹配能力提高了40%。DRAM，8GB，比Quest 2 內(nèi)存容量增加 33%。

應(yīng)用生態(tài)豐富：已有超過500款應(yīng)用，提供沉浸式體驗，涵蓋游戲、健身、娛樂等領(lǐng)域。

4、Google：推出Pixel 8 系列手機，搭載生成式AI賦能新體驗

Google 的 Pixel 8 系列手機在紐約「Made by Google」活動中發(fā)布，重點強調(diào)了在AI 功能的深度整合、最新Android 14 系統(tǒng)的應(yīng)用以及攝像頭技術(shù)的升級。

Google Pixel：性能，搭載 Android 14 和專為 Google AI 設(shè)計的 Tensor G3 芯片，其機器學(xué)習(xí)能力相比上一代Tensor增強了超過兩倍，使得其 AI 處理性能大幅提升，支持更精確的 Live-HDR。硬件，5000 萬像素后置主攝像頭、增強的低光性能和前置自動對焦。AI功能，除了提供生成網(wǎng)頁摘要、朗讀和翻譯網(wǎng)頁的生成式 AI 功能，Pixel 還通過 Magic Editor 和 Audio Magic Eraser提供照片和音頻的高級編輯體驗。其他，Pixel 8 Pro 新增了背面溫度傳感器以測量物體溫度。

谷歌發(fā)布新的AI助手 Assistant with Bard，它能幫助用戶更高效地管理任務(wù)，如計劃旅行或發(fā)送短信，并為 Android 提供更豐富的上下文交互體驗，助手將在未來幾個月內(nèi)推出。

5、OpenAI：積極投資AI硬件領(lǐng)域，或合作研發(fā)深度布局AI硬件設(shè)備

Humane首款人機交互AI硬件將發(fā)布，公司曾獲Sam Altman連續(xù)投資。Humane是一家創(chuàng)新計算公司，宣稱將通過創(chuàng)新計算方式來探索更理想的人機交互體驗。公司創(chuàng)始人為前蘋果設(shè)計總監(jiān)Imran Chaudhri和軟件工程總監(jiān)Bethany Bongiorno。OpenAI CEO SamAltman 在公司此前幾輪融資中連續(xù)參與。

2023年6月30日，Humane 推出了首個無屏幕的獨立AI硬件及其軟件平臺——Humane Ai Pin。它是一種基于服裝的智能可穿戴產(chǎn)品，配備多種傳感器，支持語音提示和手勢控制。同時能直觀地在物體表面投射信息，實現(xiàn)與上下文和環(huán)境的互動計算交互。此外，它還具備由高通的Snapdragon平臺支持的AI驅(qū)動的光學(xué)識別和激光投影顯示技術(shù)，完整功能將于11月9日發(fā)布。

Sam Altman與蘋果前設(shè)計總監(jiān)討論AI硬件，OpenAI或?qū)⒉季諥I硬件領(lǐng)域。根據(jù)《The Information》報道，蘋果公司前設(shè)計總監(jiān)Jony Ive和OpenAI CEO Sam Altman正在討論打造一款新的AI硬件設(shè)備。Ive 曾任蘋果首席設(shè)計官，曾是iMac、iPhone、iPod等產(chǎn)品的硬件產(chǎn)品設(shè)計負(fù)責(zé)人。

編輯：黃飛

?