高通攜手Meta利用Llama 2賦能終端側(cè)AI應(yīng)用

要點(diǎn)

高通計(jì)劃從2024年起，在旗艦智能手機(jī)和PC上支持基于Llama 2的AI部署，賦能開發(fā)者使用驍龍平臺(tái)的AI能力，推出激動(dòng)人心的全新生成式AI應(yīng)用。

與僅僅使用云端AI部署和服務(wù)相比，終端側(cè)AI部署能夠助力開發(fā)者以顯著降低的成本，提升用戶隱私保護(hù)、滿足用戶安全偏好、增強(qiáng)應(yīng)用可靠性，并實(shí)現(xiàn)個(gè)性化。

高通技術(shù)公司和Meta正在合作優(yōu)化Meta Llama 2大語(yǔ)言模型直接在終端側(cè)的執(zhí)行，無(wú)需僅依賴云服務(wù)。能夠在智能手機(jī)、PC、VR/AR頭顯和汽車等終端上運(yùn)行Llama 2一類的生成式AI模型，將支持開發(fā)者節(jié)省云成本，并為用戶提供更加私密、可靠和個(gè)性化的體驗(yàn)。

因此，高通技術(shù)公司計(jì)劃支持基于Llama 2的終端側(cè)AI部署，以賦能打造激動(dòng)人心的全新AI應(yīng)用。這將支持客戶、合作伙伴和開發(fā)者構(gòu)建智能虛擬助手、生產(chǎn)力應(yīng)用、內(nèi)容創(chuàng)作工具和娛樂等用例。這些由驍龍賦能的全新終端側(cè)AI體驗(yàn)，可在沒有網(wǎng)絡(luò)連接的區(qū)域、甚至是飛行模式下工作。

高通技術(shù)公司高級(jí)副總裁兼技術(shù)、規(guī)劃和邊緣解決方案業(yè)務(wù)總經(jīng)理馬德嘉表示：

我們十分贊賞Meta對(duì)于AI技術(shù)采取的開放且負(fù)責(zé)的策略。高通技術(shù)公司致力于推動(dòng)創(chuàng)新，通過將生成式AI引入終端側(cè)，將為各種規(guī)模的開發(fā)者降低開發(fā)門檻。為了將生成式AI有效地規(guī)?；瘮U(kuò)展至主流市場(chǎng)，AI需要同時(shí)在云端和邊緣終端上運(yùn)行，比如智能手機(jī)、筆記本電腦、汽車和物聯(lián)網(wǎng)終端。

Meta和高通技術(shù)公司長(zhǎng)期合作，共同推動(dòng)技術(shù)創(chuàng)新，打造下一代卓越終端體驗(yàn)。雙方目前在支持Llama生態(tài)系統(tǒng)方面的合作，覆蓋了研究和產(chǎn)品工程技術(shù)工作。憑借終端側(cè)AI的領(lǐng)導(dǎo)力，高通技術(shù)公司在支持Llama生態(tài)系統(tǒng)方面具備獨(dú)特優(yōu)勢(shì)。公司擁有領(lǐng)先的邊緣側(cè)布局，其行業(yè)領(lǐng)先的AI硬件和軟件解決方案賦能了數(shù)十億智能手機(jī)、汽車、XR頭顯與眼鏡、PC和物聯(lián)網(wǎng)等終端，為生成式AI的規(guī)?；瘮U(kuò)展提供了廣闊機(jī)遇。

高通技術(shù)公司計(jì)劃從2024年起，在搭載驍龍平臺(tái)的終端上支持基于Llama 2的AI部署?，F(xiàn)在開發(fā)者可以開始使用高通AI軟件棧面向終端側(cè)AI進(jìn)行應(yīng)用優(yōu)化。高通AI軟件棧是一套支持在驍龍平臺(tái)上更高效處理AI的專用工具，讓輕薄的小型終端也能支持終端側(cè)AI。

審核編輯：湯梓紅