Python前端 - 通過對比深度學(xué)習各大框架的優(yōu)缺點尋找最優(yōu)

該框架結(jié)合了 Torch7 高效靈活的 GPU 加速后端庫與直觀的 Python 前端，它的特點是快速成形、代碼可讀和支持最廣泛的深度學(xué)習模型。如有需要，你可以復(fù)用你最喜歡的 Python 軟件包（如 numpy、scipy 和 Cython）來擴展 PyTorch。該框架因為其靈活性和速度，在推出以后迅速得到了開發(fā)者和研究人員的青睞。隨著 GitHub 上越來越多代碼的出現(xiàn)，PyTorch 作為新框架缺乏資源的問題已經(jīng)得以緩解。

Deeplearning4J

Deeplearning4J（DL4J）是用 Java 和 Scala 編寫的 Apache 2.0 協(xié)議下的開源、分布式神經(jīng)網(wǎng)絡(luò)庫。DL4J 最初由 SkyMind 公司的 Adam Gibson 開發(fā)，是唯一集成了 Hadoop 和 Spark 的商業(yè)級深度學(xué)習網(wǎng)絡(luò)，并通過 Hadoop 和 Spark 協(xié)調(diào)多個主機線程。DL4J 使用 Map-Reduce 來訓(xùn)練網(wǎng)絡(luò)，同時依賴其它庫來執(zhí)行大型矩陣操作。

DL4J 框架支持任意芯片數(shù)的 GPU 并行運行（對訓(xùn)練過程至關(guān)重要），并支持 YARN（Hadoop 的分布式應(yīng)用程序管理框架）。DL4J 支持多種深度網(wǎng)絡(luò)架構(gòu)：RBM、DBN、卷積神經(jīng)網(wǎng)絡(luò)（CNN）、循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）、RNTN 和長短時間記憶網(wǎng)絡(luò)（LTSM）。DL4J 還對矢量化庫 Canova 提供支持。

DL4J 使用 Java 語言實現(xiàn)，本質(zhì)上比 Python 快。在用多個 GPU 解決非平凡圖像（non-trivial image）識別任務(wù)時，它的速度與 Caffe 一樣快。該框架在圖像識別、欺詐檢測和自然語言處理方面的表現(xiàn)出眾。

Theano

由蒙特利爾大學(xué)算法學(xué)習人工智能實驗室（MILA）維護。以 Theano 的創(chuàng)始人 Yoshua Bengio 為首，該實驗室是深度學(xué)習研究領(lǐng)域的重要貢獻者，擁有約 30 至 40 名學(xué)生和教師。Theano 支持快速開發(fā)高效的機器學(xué)習算法，在 BSD 協(xié)議下發(fā)布。

Theano 的架構(gòu)如同一個黑箱；整個代碼庫和接口使用 Python，其中 C/CUDA 代碼被打包成 Python 字符串。這使得開發(fā)人員很難導(dǎo)航（navigate）、調(diào)試和重構(gòu)。

Theano 開創(chuàng)了將符號圖用于神經(jīng)網(wǎng)絡(luò)編程的趨勢。Theano 的符號式 API 支持循環(huán)控制（即 scan），這使得實現(xiàn) RNN 容易且高效。

Theano 缺乏分布式應(yīng)用程序管理框架，只支持一種編程開發(fā)語言。Theano 是很好的學(xué)術(shù)研究工具，在單個 CPU 上運行的效率比 TensorFlow 更有效。然而，在開發(fā)和支持大型分布式應(yīng)用程序時，使用 Theano 可能會遇到挑戰(zhàn)。

開源 vs. 非開源

隨著深度學(xué)習的不斷發(fā)展，我們必將看到 TensorFlow、Caffe 2 和 MXNet 之間的不斷競爭。另一方面，軟件供應(yīng)商也會開發(fā)具有先進人工智能功能的產(chǎn)品，從數(shù)據(jù)中獲取最大收益。風險：你將購買非開源的人工智能產(chǎn)品還是使用開源框架？有了開源工具，確定最適合的深度學(xué)習框架也是兩難問題。在非開源產(chǎn)品中，你是否準備了退出策略？人工智能的收益會隨著工具的學(xué)習能力的進步而上升，所以看待這些問題都需要用長遠的觀點。