高通交付首批CloudAI100加速器和邊緣方案開發(fā)套件：從終端到云端AI的聯(lián)合

在 2019 年 4 月，高通公司發(fā)布了一款專用于云端 AI 加速的處理器 Qualcomm Cloud AI 100，采用 7nm 工藝，性能比當(dāng)時業(yè)界最先進(jìn)的 AI 推理解決方案高出 10 倍以上。

而在 2020 年 9 月 16 日，高通宣布 AI 推理加速器 Cloud AI 100 已經(jīng)面向全球部分客戶出貨。

高通 Qualcomm Cloud AI 100 加速器擁有先進(jìn)的信號處理能力和領(lǐng)先的能效，能夠支持諸多運(yùn)行環(huán)境對于 AI 解決方案的需求，包括數(shù)據(jù)中心、云端邊緣、邊緣設(shè)備和 5G 基礎(chǔ)設(shè)施等。

而全新宣布的 Qualcomm Cloud AI 100 邊緣方案開發(fā)套件通過提供一整套面向 AI 處理的系統(tǒng)級解決方案，支持高達(dá) 24 路的 1080p 視頻流和 5G 連接，旨在加速邊緣應(yīng)用的普及。

硬件方面，Qualcomm Cloud AI 100 支持高達(dá) 400TOPS 的 AI 算力，同時在 7nm 工藝的加持下，擁有出色的性能功耗比，旨在提供業(yè)界領(lǐng)先的 AI 推理效率。Qualcomm Cloud AI 100 還支持從 15W 到 75W 功率的多種設(shè)備形態(tài)，其中包括 PCI-E 卡。

至于 Qualcomm Cloud AI 100 軟件套件，其中包含一套完整的工具棧，并支持 Tensorflow、PyTorch 和 Caffe 等主流框架，以及 GLOW 和 ONNX 等 runtimes。

該軟件套件包括具備編譯器和模擬器的 Qualcomm Cloud AI 100 應(yīng)用 SDK，以及具備 runtimes、API、內(nèi)核驅(qū)動程序和工具的平臺 SDK，旨在支持 Qualcomm Cloud AI 100 平臺在多個運(yùn)行環(huán)境中的開發(fā)、測試及部署。

Qualcomm Cloud AI 100 開發(fā)套件由三個模組化的 Qualcomm 組件構(gòu)成：

Qualcomm Cloud AI 100——支持低功耗、高性能的 AI 推理

Qualcomm 驍龍 865 模組化平臺——支持應(yīng)用和視頻處理

驍龍 X55 調(diào)制解調(diào)器及射頻系統(tǒng)模組——支持全球運(yùn)營商的預(yù)認(rèn)證模組實(shí)現(xiàn)領(lǐng)先的 5G 連接能力

總體來說，Qualcomm Cloud AI 100 邊緣方案開發(fā)套件是已經(jīng)優(yōu)化的系統(tǒng)級解決方案，能夠提供高性能的 AI 推理、視頻處理和 5G 連接。

高級副總裁、計(jì)算與邊緣云業(yè)務(wù)總經(jīng)理 Keith Kressin 表示：“高通在提供擁有業(yè)界領(lǐng)先的性能功耗比、從邊緣到云端的高性能 AI 解決方案方面處于絕佳地位。目前，Qualcomm Cloud AI 100 正面向全球部分客戶出貨，我們預(yù)計(jì)采用該產(chǎn)品的商用設(shè)備將于 2021 年上半年面市?！?/p>

隨著 AI 技術(shù)在社會生產(chǎn)、生活中的應(yīng)用越來越深入，AI 產(chǎn)業(yè)的規(guī)模也在不斷增大，小到我們手上的智能手機(jī)，大到工業(yè)生產(chǎn)的設(shè)備，越來越需要 AI 的助力。這些 AI 中，有數(shù)據(jù)采集、計(jì)算、決策都在前端設(shè)備本地進(jìn)行的終端 AI，也有數(shù)據(jù)訓(xùn)練、處理都是在云端進(jìn)行的云端 AI。而未來終端 AI 和云端 AI 都不可能孤立存在，兩者的彼此無縫協(xié)同聯(lián)動才是大勢所趨。

此背景下，在終端側(cè) AI 領(lǐng)域有著強(qiáng)大號召力的高通，通過 Qualcomm Cloud AI 100 加速器和開發(fā)套件將自身的 AI 實(shí)力拓展到云端，就很容易理解了。

過去高通一直以來給人的印象都是終端側(cè) AI 的堅(jiān)定執(zhí)行者，基于驍龍 AI Engine 人工智能引擎，高通通過終端 AI 為這個星球上一半以上的智能手機(jī)提供 AI 運(yùn)算，方便人們的生活。但我們不知道的是，除了終端側(cè) AI，高通在運(yùn)算 AI 方面也擁有深厚的積累，事實(shí)上，高通一直都在促進(jìn)終端 AI 和云端 AI 的合作與協(xié)同，是分布式 AI 的先行者和踐行者。

而本次交付的 Qualcomm Cloud AI 100 加速器和邊緣方案開發(fā)套件，峰值性能能達(dá)到驍龍 855 和驍龍 820 的的 3 至 50 倍，就是高通在云端 AI 方面強(qiáng)大實(shí)力的最好例證。隨著 5G 商業(yè)部署的深入，高通將推進(jìn) AI 在運(yùn)算進(jìn)行大規(guī)模的訓(xùn)練和推理，然后通過高速率低時延的 5G 網(wǎng)絡(luò)，將 AI 的具體能力和執(zhí)行落實(shí)到邊緣終端側(cè)，讓邊緣計(jì)算和云端的運(yùn)算實(shí)時協(xié)同，既擁有強(qiáng)大的運(yùn)算性能，又擁有極低的時延，從而讓 AI 能夠賦能社會生產(chǎn)生活的各方各面，徹底變革我們的生活方式。
責(zé)任編輯：psy