TensorFlow依舊有王者榮耀,但PyTorch虎視眈眈。
今天,PyTorch官方在GitHub發(fā)布0.4.0版本,最重要的改進是支持Windows系統(tǒng)。
PyTorch是在2017年1月由Facebook推出的。它是經(jīng)典機器學(xué)習(xí)庫Torch框架的一個端口,Torch二進制文件包裝于GPU加速的Python。
除了GPU加速和內(nèi)存使用的高效外,PyTorch受歡迎的主要因素是動態(tài)計算圖的使用。已經(jīng)有其他一些不太知名的深度學(xué)習(xí)框架使用動態(tài)計算圖,例如Chainer。
動態(tài)圖的優(yōu)點在于,圖(graph)是由run定義(“define by run”),而不是傳統(tǒng)的“define and run”。特別是,在輸入可以變化的情況下,例如文本這樣的非結(jié)構(gòu)化數(shù)據(jù),這非常有用而且高效。
圖:PyTorch動態(tài)計算圖 - 來源:http://pytorch.org/about/
以下為更新內(nèi)容目錄:
主要核心變更
Tensor/Variable合并
零維張量
dtypes
遷移指南
新功能
張量
全面支持高級索引
快速傅立葉變換
權(quán)衡內(nèi)存計算
bottleneck - 一個在你的代碼中識別hotspots的工具
torch.distributions
24個基本概率分布
增加了cdf,方差,熵,困惑度(perplexity)等。
分布式訓(xùn)練
易于使用的Launcher utility
NCCL2后端
C ++擴展
Windows支持
ONNX改進
RNN支持
性能改進
Bug修復(fù)
主要核心變化
以下是用戶每天使用的最重要的核心功能的更新。
主要變化和潛在的重要更新:
Tensors和Variables已經(jīng)合并
有些操作會返回0維(標量)Tensors
棄用了volatileflag
改進:
添加了dtypes,devices和 Numpy 風(fēng)格的Tensor創(chuàng)建函數(shù)
支持編寫與device無關(guān)的代碼
PyTorch團隊編寫了一個遷移指南,幫助用戶將代碼轉(zhuǎn)換為新的API和style。如果您想要遷移以前版本的PyTorch中的代碼。
遷移指南:http://pytorch.org/2018/04/22/0_4_0-migration-guide.html
本部分的內(nèi)容(主要核心變更)包含在遷移指南中。
合并Tensor和Variable類
torch.autograd.Variable和torch.Tensor現(xiàn)在是同一類。更確切地說,torch.Tensor能夠跟蹤歷史并像舊的Variable一樣運行;Variable的換行繼續(xù)像以前一樣工作,但返回的對象類型變成torch.Tensor。這意味著你不再需要將代碼中的任何Variable wrapper。
Tensor的type( )已經(jīng)改變
還要注意Tensor的type( )不再反映數(shù)據(jù)類型。使用isinstance()或x.type()來代替:
Windows支持
PyTorch現(xiàn)在正式支持Windows!我們?yōu)镻ython 3.5和3.6提供預(yù)編譯的Conda二進制文件和pip wheels。Windows上的PyTorch不支持分布式訓(xùn)練,可能比Linux / OSX慢一點,因為Visual Studio支持較早版本的OpenMP。
與往常一樣,你可以使用http://pytorch.org上的命令在Windows上安裝PyTorch。
-
WINDOWS
+關(guān)注
關(guān)注
3文章
3521瀏覽量
88317 -
API
+關(guān)注
關(guān)注
2文章
1472瀏覽量
61749 -
機器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8349瀏覽量
132315 -
pytorch
+關(guān)注
關(guān)注
2文章
802瀏覽量
13115
原文標題:年度最大更新!PyTorch 0.4:完全改變API,官方支持Windows
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論