工業(yè)表現(xiàn)能力 - 開(kāi)源深度學(xué)習(xí)框架對(duì)比研究的三個(gè)主要維度學(xué)習(xí)

開(kāi)源深度學(xué)習(xí)框架不僅對(duì)學(xué)術(shù)研究提供了有力的支持，同時(shí)也為工業(yè)界解決任務(wù)提供了眾多解決方案。本節(jié)將從模型表達(dá)能力、接口、部署、性能和架構(gòu)等方面度量各開(kāi)源框架在工業(yè)生產(chǎn)領(lǐng)域的表現(xiàn)。

圖2.27 各框架支持語(yǔ)言

表2.2 各框架工業(yè)能力評(píng)分(GitHub)

網(wǎng)絡(luò)和模型能力

Caffe在計(jì)算機(jī)視覺(jué)領(lǐng)域是最流行的工具包，有很多擴(kuò)展，但對(duì)遞歸網(wǎng)絡(luò)和語(yǔ)言建模的支持很差。此外，在Caffe中圖層需要使用C++定義，而網(wǎng)絡(luò)則使用Protobuf定義。

TensorFlow是一個(gè)理想的RNN API和實(shí)現(xiàn)，向量運(yùn)算的圖方法使得新網(wǎng)絡(luò)的指定變得相當(dāng)容易，但其并不支持雙向RNN和3D卷積，同時(shí)公共版本的圖定義也不支持循環(huán)和條件控制，這使得RNN的實(shí)現(xiàn)并不理想，因?yàn)楸仨氁褂?a href="http://www.ttokpm.com/tags/python/" target="_blank">Python循環(huán)且無(wú)法進(jìn)行圖編譯優(yōu)化。

Theano支持大部分先進(jìn)的網(wǎng)絡(luò)，很多研究想法都來(lái)源于Theano，它引領(lǐng)了符號(hào)圖在編程網(wǎng)絡(luò)中使用的趨勢(shì)。Theano的符號(hào)API支持循環(huán)控制，讓RNN的實(shí)現(xiàn)更加容易且高效。

Torch對(duì)卷積網(wǎng)絡(luò)的支持非常好，通過(guò)時(shí)域卷積的本地接口使得它的使用非常直觀。Torch通過(guò)很多非官方的擴(kuò)展支持大量的RNN，同時(shí)網(wǎng)絡(luò)的定義方法也有很多種。但Torch本質(zhì)上是以圖層的方式定義網(wǎng)絡(luò)的，這種粗粒度的方式使得它對(duì)新圖層類型的擴(kuò)展缺乏足夠的支持。與Caffe相比，在Torch中定義新圖層非常容易，不需要使用C++編程，圖層和網(wǎng)絡(luò)定義方式之間的區(qū)別最小。

接口

Caffe支持pycaffe接口，但這僅僅是用來(lái)輔助命令行接口的，而即便是使用pycaffe也必須使用protobuf定義模型。

TensorFlow支持Python和C++兩種類型的接口。用戶可以在一個(gè)相對(duì)豐富的高層環(huán)境中做實(shí)驗(yàn)并在需要本地代碼或低延遲的環(huán)境中部署模型。

Theano支持Python接口。

Torch運(yùn)行在LuaJIT上，與C++、C#以及Java等工業(yè)語(yǔ)言相比速度非常快，用戶可編寫(xiě)任意類型的計(jì)算而不需要擔(dān)心性能，但Lua并非主流語(yǔ)言。

模型部署

Caffe基于C++，可在多種設(shè)備上編譯，具有跨平臺(tái)性，是部署項(xiàng)目的最佳選擇。

TensorFlow支持C++接口，同時(shí)能夠基于ARM架構(gòu)編譯和優(yōu)化。用戶可將成熟模型部署在多種設(shè)備上而不需實(shí)現(xiàn)單獨(dú)的模型解碼器或者加載Python/LuaJIT解釋器。

Theano缺少底層的接口，并且其Python解釋器也很低效。

Torch的模型運(yùn)行需要LuaJIT的支持，對(duì)集成造成了很大的障礙。

性能

Caffe 簡(jiǎn)單快速。

TensorFlow僅使用了cuDNN v2，但即使如此它的性能依然要比同樣使用cuDNN v2的Torch要慢1.5倍，并且在批大小為128時(shí)訓(xùn)練GoogleNet還出現(xiàn)了內(nèi)存溢出的問(wèn)題。

Theano在大型網(wǎng)絡(luò)上的性能與Torch7不相上下。但其因需要將C/CUDA代碼編譯成二進(jìn)制而啟動(dòng)時(shí)間過(guò)長(zhǎng)。此外，Theano的導(dǎo)入也會(huì)消耗時(shí)間，并且在導(dǎo)入之后無(wú)法擺脫預(yù)配置的設(shè)備。

Torch非常好，沒(méi)有TensorFlow和Theano的問(wèn)題。

架構(gòu)

Caffe的主要劣勢(shì)是圖層需要使用C++定義，而模型需要使用protobuf定義。此外，如果想要支持CPU和GPU，用戶還必須實(shí)現(xiàn)額外的函數(shù)；對(duì)于自定義的層類型，還須為其分配id，并將其添加到proto文件中。

TensorFlow的架構(gòu)清晰，采用了模塊化設(shè)計(jì)，支持多種前端和執(zhí)行平臺(tái)。

Theano 的整個(gè)代碼庫(kù)都使用Python，連C/CUDA代碼也要被打包為Python字符串，這使其難以導(dǎo)航、調(diào)試、重構(gòu)和維護(hù)。

Torch7和nn類庫(kù)擁有清晰的設(shè)計(jì)和模塊化的接口。

2.2.4 結(jié)論

1. 各深度學(xué)習(xí)框架對(duì)于硬件的利用情況：

多線程CPU的情況下Torch使用的最廣泛；

TensorFlow在多GPU的條件下最為靈活可用；

2. 各深度學(xué)習(xí)框架對(duì)于速度：

在網(wǎng)絡(luò)“深度”改變的情況下，Keras具有最快的訓(xùn)練速度，TensorFlow具有最快的預(yù)測(cè)響應(yīng)速度；

在網(wǎng)絡(luò)“寬度”改變的情況下，Caffe具有最快的訓(xùn)練速度，TensorFlow在“寬度”改變較小的情況下具有最快的預(yù)測(cè)響應(yīng)速度，“寬度”改變較大時(shí)Keras具有最快的響應(yīng)速度，TensorFlow緊隨其后；

3. 各深度學(xué)習(xí)框架對(duì)于準(zhǔn)確率：

在網(wǎng)絡(luò)“深度”改變的情況下，TensorFlow和Torch的分類準(zhǔn)確率隨網(wǎng)絡(luò)“深度”的增加而下降；

在網(wǎng)絡(luò)“寬度”改變的情況下，TensorFlow的分類預(yù)測(cè)準(zhǔn)確率相對(duì)穩(wěn)定，超越CaffeTorch；

無(wú)論在網(wǎng)絡(luò)“深度”或是“寬度”改變的情況下，Keras對(duì)分類預(yù)測(cè)的準(zhǔn)確率十分穩(wěn)定，且超越其他框架，具有最佳的預(yù)測(cè)準(zhǔn)確率；

4. 各深度學(xué)習(xí)框架的社區(qū)活躍度：

TensorFlow可以定義為“最流行”、“最被認(rèn)可”的開(kāi)源深度學(xué)習(xí)框架。其在GitHub上無(wú)論是Star數(shù)、Fork數(shù)，或是檢索基于TensorFlow的項(xiàng)目數(shù)，都大大超過(guò)其他框架，甚至超越其他框架資源的總和。

5. 各深度學(xué)習(xí)框架的工業(yè)表達(dá)能力：

Caffe具有優(yōu)秀的模型表達(dá)能力和工業(yè)部署能力，尤其是計(jì)算機(jī)視覺(jué)方面，但對(duì)RNN和語(yǔ)言建模的支持很差。Caffe適用于視覺(jué)任務(wù)處理，尤其是基于深度學(xué)習(xí)的工業(yè)項(xiàng)目，其具有無(wú)可爭(zhēng)議的生產(chǎn)穩(wěn)定性；但其缺乏靈活性，這使得對(duì)網(wǎng)絡(luò)結(jié)構(gòu)的改變比其他框架麻煩，且Caffe的文檔十分匱乏，代碼閱讀困難高于其他框架。

Tensorflow具有很好的模型表達(dá)能力、優(yōu)秀的接口和清晰的內(nèi)部框架，適用于工業(yè)項(xiàng)目部署，但其速度性能不具備優(yōu)勢(shì)；TensorFlow支持分布式計(jì)算，使得硬件設(shè)備的性能得到最充分發(fā)揮；其代碼的可讀性和社區(qū)活躍度使得無(wú)論是學(xué)術(shù)研究或工業(yè)生產(chǎn)變得容易；

Keras具有良好的速度性能、模型表達(dá)能力，使用簡(jiǎn)潔、方便—只需幾行代碼就能構(gòu)建一個(gè)神經(jīng)網(wǎng)絡(luò)。Keras具有完整的文檔，使得學(xué)習(xí)和使用十分容易—即便不熟悉Python。其更適用于學(xué)術(shù)研究、實(shí)驗(yàn)或輕量級(jí)工業(yè)任務(wù)(如獲取特征值)；

Torch具有十分優(yōu)秀的速度性能，但其使用Lua語(yǔ)言；

DL4j兼容JVM，也適用 Java、Clojure和 Scala；