PQ Labs MagicAI讓CPU玩得轉(zhuǎn)人工智能

PQ Labs （上海品奇數(shù)碼科技有限公司）在 CES 2019 展會發(fā)布的 MagicAI 技術擁有非?？斓倪\行速度：可以在 Intel i7 處理器上，以 718 FPS 的幀率運行 物體識別 程序而無需降低識別精度，而在同樣 CPU 上直接運行 Tiny Yolo 則僅僅有 3.6 FPS 的幀率。MagiAI（Tiny Magic Yolo）的計算速度達到了 Intel MKL 的199倍，甚至達到了經(jīng)過 GPU (Titan X / 1080Ti) 加速的 Tiny Yolo 3.5倍的運行速度。

為人工智能而生的新物種

MagicAI 技術的設計和開發(fā)是從深度學習最底層的數(shù)學基礎開始的，所有數(shù)學運算都被重新優(yōu)化設計，重新封裝在一個叫做 “MagicCompute” 的運算庫內(nèi)，以替代 NVIDIA CUDA，cuDNN 及 Intel MKL，并實現(xiàn)運行速度的提升。例如， “卷積運算” （所有深度學習模型的基礎運算）由 “MagicConvolution” 來執(zhí)行，就可以獲得性能的飛速提升。

MagicAI 的運行速度提升同樣來自于其獨特的骨干網(wǎng)絡優(yōu)化，運行速度要比 MobileNet V2、ShuffleNet V2 等輕量化模型更快，并且準確度更高。

MagicAI 從設計之初就與眾不同，目前人工智能的產(chǎn)業(yè)界和學術界依然沿用深度學習技術在其非常早年間定義下來的訓練方式，嚴重依賴基于ImageNet Classification 的訓練和調(diào)優(yōu)，然后再使用 ImageNet 的模型作為預訓練模型，通過 “知識遷移” 來訓練并獲取其他任務的能力（比如物體識別)。

這種傳統(tǒng)模式在過去并沒有什么問題，但是 MagicAI 的做法有所不同，我們認為 對 ImageNet Classification 的調(diào)優(yōu)并不是最優(yōu)解，有時優(yōu)秀的 Classification 結果反而會對其他任務的精度帶來負面影響。 MagicAI 選擇重新設計新的訓練方式來解決這個問題，這進一步提升了 MagicAI 的準確率和計算效率。

MagicAI支持現(xiàn)有的模型和框架

MagicAI 技術新穎且速度飛快，但是這并不意味選擇 MagicNet 就意味著放棄在現(xiàn)有的技術模型（TensorFlow, Caffe, Pytorch等）上花費的時間和精力。MagicNet 可以向后兼容，支持已有的模型，無需重新訓練或編程，就可以讓現(xiàn)有模型運行的更快。