每個(gè)電子工程師都應(yīng)該了解 TensorFlow

通過(guò)吉姆哈里森

我試圖想出一個(gè)不能利用機(jī)器學(xué)習(xí)的電子系統(tǒng)。一些非常小的系統(tǒng)——是的，當(dāng)然。對(duì)于某些系統(tǒng)，這可能不值得麻煩，但對(duì)于所有設(shè)計(jì)項(xiàng)目的很大一部分，機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)（和 TensorFlow）可以提供很大的增強(qiáng)。

之前，谷歌開(kāi)放了其內(nèi)部機(jī)器學(xué)習(xí)軟件 TensorFlow，使支持其翻譯服務(wù)和照片分析（以及許多其他功能）?的程序開(kāi)源并免費(fèi)下載。最近，該公司發(fā)布了該軟件的分布式版本，允許它在多臺(tái)機(jī)器上運(yùn)行?——一次最多數(shù)百臺(tái)。

從神經(jīng)開(kāi)始

神經(jīng)網(wǎng)絡(luò)是一種用于構(gòu)建從數(shù)據(jù)中學(xué)習(xí)的計(jì)算機(jī)程序的技術(shù)。它非常松散地基于我們認(rèn)為人類大腦的工作方式。首先，一組軟件“神經(jīng)元”被創(chuàng)建并連接在一起，允許它們相互發(fā)送消息。接下來(lái)，網(wǎng)絡(luò)被要求解決一個(gè)問(wèn)題，它試圖一遍又一遍地解決這個(gè)問(wèn)題，每次都會(huì)加強(qiáng)導(dǎo)致成功的聯(lián)系并減少導(dǎo)致失敗的聯(lián)系。

機(jī)器學(xué)習(xí)

機(jī)器學(xué)習(xí)軟件只有通過(guò)分析大量數(shù)據(jù)才能變得聰明——例如，尋找照片中的面部特征等共同屬性和趨勢(shì)。如果你想讓計(jì)算機(jī)學(xué)習(xí)一些東西，你會(huì)使用傳統(tǒng)的編程，給它一套非常精確的規(guī)則。說(shuō)你想讓它煮意大利面。在廚房櫥柜中找到合適的鍋可能需要 50 或 100 條規(guī)則，而要找到爐子和正確的燃燒器等則需要更多規(guī)則。通過(guò)機(jī)器學(xué)習(xí)，您將向網(wǎng)絡(luò)展示 10,000 個(gè)某人烹飪的視頻意大利面——可能在同一個(gè)廚房里，也可能不在。

近年來(lái)，其他公司和研究人員在人工智能領(lǐng)域也取得了長(zhǎng)足的進(jìn)步，包括Facebook、?微軟和Twitter。有些已經(jīng)開(kāi)源了類似于 TensorFlow 的軟件。這包括Torch ?（最初由瑞士研究人員構(gòu)建的系統(tǒng)）以及?Caffe?和?Theano等系統(tǒng)。但是TensorFlow很重要。那是因?yàn)楣雀璧娜斯ぶ悄芤姹灰恍┤苏J(rèn)為是世界上最先進(jìn)的。

谷歌并沒(méi)有泄露它所有的秘密。目前，該公司只是開(kāi)源了這個(gè)人工智能引擎的一部分。它僅共享在引擎上運(yùn)行的一些算法。它并沒(méi)有共享對(duì)驅(qū)動(dòng)這個(gè)引擎的非常先進(jìn)的硬件基礎(chǔ)設(shè)施的訪問(wèn)。但谷歌至少放棄了一些最重要的數(shù)據(jù)中心軟件。

那么它到底是什么？

TensorFlow 是一個(gè)開(kāi)源軟件庫(kù)，用于使用數(shù)據(jù)流圖進(jìn)行數(shù)值計(jì)算。圖中的節(jié)點(diǎn)表示數(shù)學(xué)運(yùn)算，而圖邊表示它們之間通信的多維數(shù)據(jù)數(shù)組（張量）。靈活的架構(gòu)允許您使用單個(gè) API 將計(jì)算部署到桌面、服務(wù)器或移動(dòng)設(shè)備中的一個(gè)或多個(gè) CPU 或 GPU。TensorFlow 最初是由谷歌機(jī)器智能研究組織內(nèi)的谷歌大腦團(tuán)隊(duì)的研究人員和工程師開(kāi)發(fā)的，目的是進(jìn)行機(jī)器學(xué)習(xí)和深度神經(jīng)網(wǎng)絡(luò)研究，但該系統(tǒng)足夠通用，可以適用于廣泛的其他領(lǐng)域，例如出色地。請(qǐng)參閱www.tensorflow.org和Github以及此視頻了解更多信息。

什么是數(shù)據(jù)流圖？

數(shù)據(jù)流圖用節(jié)點(diǎn)和邊的有向圖描述數(shù)學(xué)計(jì)算。節(jié)點(diǎn)通常實(shí)現(xiàn)數(shù)學(xué)運(yùn)算，但也可以表示端點(diǎn)以輸入數(shù)據(jù)、推出結(jié)果或讀/寫(xiě)持久變量。邊描述節(jié)點(diǎn)之間的輸入/輸出關(guān)系。這些數(shù)據(jù)邊攜帶動(dòng)態(tài)大小的多維數(shù)據(jù)數(shù)組或張量。通過(guò)圖的張量流是 TensorFlow 得名的地方。一旦其傳入邊緣上的所有張量都可用，節(jié)點(diǎn)將被分配給計(jì)算設(shè)備并異步并行執(zhí)行。

仍有很多限制

因此，基本上，您向神經(jīng)網(wǎng)絡(luò)提供大量數(shù)據(jù)，它們會(huì)學(xué)習(xí)執(zhí)行任務(wù)。給他們喂食無(wú)數(shù)早餐、午餐和晚餐的照片，他們就能學(xué)會(huì)識(shí)別一頓飯。喂網(wǎng)絡(luò)口語(yǔ)，他們可以學(xué)會(huì)識(shí)別你說(shuō)的話。喂他們一些老電影對(duì)話，他們可以學(xué)會(huì)進(jìn)行對(duì)話——不是完美的對(duì)話，而是相當(dāng)不錯(cuò)的對(duì)話。GPU 擅長(zhǎng)并行處理大量小數(shù)據(jù)，而這正是深度學(xué)習(xí)所需要的。

然而，雖然深度學(xué)習(xí)已被證明擅長(zhǎng)涉及語(yǔ)音和圖像識(shí)別的任務(wù)，但它也有很多局限性。大多數(shù)問(wèn)題的答案都很好，但不是很好。優(yōu)秀是非常非常難以達(dá)到的。深度學(xué)習(xí)技術(shù)的智能是狹隘而僵硬的。正如認(rèn)知心理學(xué)家 Gary Marcus 在《紐約客》中所寫(xiě)，流行的方法“缺乏表示因果關(guān)系的方法（例如疾病及其癥狀之間的關(guān)系），并且在獲取諸如‘兄弟姐妹’或‘相同’等抽象概念方面面臨挑戰(zhàn)。它們沒(méi)有明顯的邏輯推理方式，而且距離整合抽象知識(shí)還有很長(zhǎng)的路要走，比如關(guān)于對(duì)象是什么、它們的用途以及它們通常如何使用的信息?！?換句話說(shuō)，他們沒(méi)有任何常識(shí)。

審核編輯 黃昊宇