高通AI Hub為開(kāi)發(fā)者開(kāi)啟卓越終端側(cè)AI性能

在今年的巴塞羅那世界移動(dòng)通信大會(huì)（MWC）上，高通技術(shù)公司再次引領(lǐng)AI技術(shù)的創(chuàng)新潮流，發(fā)布了其全新的高通AI Hub。這一創(chuàng)新平臺(tái)為開(kāi)發(fā)者提供了一個(gè)全面的AI模型庫(kù)，使得他們能夠輕松快速地將預(yù)優(yōu)化AI模型集成進(jìn)應(yīng)用程序中，從而為用戶帶來(lái)更快、更可靠且更具隱私性的體驗(yàn)。

高通AI Hub的核心是其預(yù)優(yōu)化AI模型庫(kù)，這一庫(kù)支持在搭載驍龍和高通平臺(tái)的終端上進(jìn)行無(wú)縫部署。模型庫(kù)中包含超過(guò)75個(gè)主流的AI和生成式AI模型，如Whisper、ControlNet、Stable Diffusion和Baichuan-7B等。這些模型可在不同的執(zhí)行環(huán)境中打包，實(shí)現(xiàn)卓越的終端側(cè)AI性能、降低內(nèi)存占用并提升能效。

值得一提的是，所有模型都經(jīng)過(guò)優(yōu)化，旨在充分利用高通AI引擎內(nèi)的所有核心（NPU、CPU和GPU）的硬件加速能力。這意味著推理速度可以得到4倍的提升，從而為用戶提供更加流暢、高效的AI體驗(yàn)。

除了硬件加速外，AI模型庫(kù)還能夠自動(dòng)處理從源框架到主流執(zhí)行環(huán)境的模型轉(zhuǎn)換，并與高通AI引擎Direct SDK協(xié)同工作，實(shí)現(xiàn)硬件感知優(yōu)化。這意味著開(kāi)發(fā)者可以更加便捷地將這些模型集成進(jìn)他們的應(yīng)用程序中，縮短產(chǎn)品上市時(shí)間，并發(fā)揮終端側(cè)AI部署的諸多優(yōu)勢(shì)，如即時(shí)性、可靠性、隱私保護(hù)、個(gè)性化和成本優(yōu)勢(shì)。

為了方便開(kāi)發(fā)者使用這些模型，高通AI Hub現(xiàn)已在高通AI Hub、GitHub和Hugging Face等平臺(tái)上提供。此外，高通AI Hub還將持續(xù)增加新模型，并支持更多平臺(tái)和操作系統(tǒng)。開(kāi)發(fā)者只需注冊(cè)登錄，即可在搭載高通技術(shù)公司平臺(tái)的云托管終端上自行運(yùn)行模型，并通過(guò)高通AI Hub提前獲取新特性和AI模型。

隨著AI技術(shù)的不斷發(fā)展和普及，高通AI Hub的推出無(wú)疑將為開(kāi)發(fā)者提供更加便捷、高效的工具，推動(dòng)終端側(cè)AI技術(shù)的廣泛應(yīng)用和發(fā)展。我們期待這一平臺(tái)能夠在未來(lái)的AI領(lǐng)域中發(fā)揮更大的作用，為用戶帶來(lái)更加出色的AI體驗(yàn)。