初創(chuàng)公司Fathom Computing從2014年開始嘗試用光子來處理數(shù)據(jù),他們發(fā)現(xiàn)光子比電子更適合AI任務(wù)的計(jì)算,性能得到顯著提升。在識(shí)別手寫數(shù)字的任務(wù)上,光學(xué)計(jì)算機(jī)達(dá)到90%的準(zhǔn)確率,這是極大的進(jìn)步。未來光學(xué)計(jì)算機(jī)對大型AI任務(wù)來說有著無與倫比的吸引力。
Willam Andregg帶我走進(jìn)他的創(chuàng)業(yè)公司 Fathom Computing雜亂的工作室,輕輕抬起一個(gè)笨重黑匣子的蓋子。匣子里,綠光從一組像是望遠(yuǎn)鏡的鏡頭、支架和電纜中微微發(fā)出。這是一臺(tái)使用光(而不是電)來處理數(shù)據(jù)的原型計(jì)算機(jī),它正在學(xué)習(xí)識(shí)別手寫數(shù)字。在其他實(shí)驗(yàn)中,這臺(tái)計(jì)算機(jī)學(xué)會(huì)了用文本生成句子。
現(xiàn)在,這臺(tái)原型光學(xué)計(jì)算機(jī)(optical computer)表現(xiàn)很好,但還達(dá)不到絕佳狀態(tài):在最佳運(yùn)行條件下,它正確讀出了 90%的潦草手寫數(shù)字。但 Andregg 認(rèn)為這是一個(gè)突破。 “2014 年我們開香檳慶祝公司成立時(shí),正確率只有 30%左右,” 他笑著說。
Andregg 稱這是機(jī)器學(xué)習(xí)軟件首次使用激光脈沖電路而非電力進(jìn)行訓(xùn)練。Fathom 公司正在努力縮小這臺(tái)占地幾平方英尺計(jì)算機(jī)的尺寸,以適應(yīng)標(biāo)準(zhǔn)的云服務(wù)器。Fathom 希望這項(xiàng)技術(shù)將成為人工智能淘金熱的一個(gè)利器。
科技公司,特別是像亞馬遜和微軟這樣的大型云服務(wù)提供商,在計(jì)算機(jī)芯片上花費(fèi)巨資為機(jī)器學(xué)習(xí)算法提供算力。研究人員發(fā)現(xiàn)專為圖形設(shè)計(jì)的芯片非常適合于為識(shí)別語音或圖像等任務(wù)驅(qū)動(dòng)所謂的人工神經(jīng)網(wǎng)絡(luò),這開啟了人工智能的狂熱。在過去的三年中,領(lǐng)先的圖形芯片供應(yīng)商N(yùn)vidia的股價(jià)已經(jīng)增長了10倍以上,谷歌和其他許多公司也正在制造或研發(fā)自己的機(jī)器學(xué)習(xí)專門芯片。
Fathom的原型光學(xué)計(jì)算機(jī)乘法矩陣的可視化——這是對人工神經(jīng)網(wǎng)絡(luò)來說非常重要的操作。
Fathom的創(chuàng)始人們押注于這項(xiàng)新技術(shù),認(rèn)為它將超越純電子計(jì)算機(jī)的能力。 William Andregg說:“光學(xué)技術(shù)與電子學(xué)相比具有根本上的優(yōu)勢,沒有任何電子學(xué)的設(shè)計(jì)能夠超越它。”他和兄弟一起創(chuàng)業(yè),公司有11人,由Andy Rubin領(lǐng)導(dǎo)的風(fēng)險(xiǎn)投資公司Playground Global支持,后者共同開發(fā)了目前由谷歌擁有的Android操作系統(tǒng)。Fathom在加州帕洛阿爾托Playground的工作室運(yùn)作。Playground曾是Nervana公司的主要投資方,該公司在2016年被Intel收購,成為該芯片巨頭AI硬件戰(zhàn)略的核心。
利用光而不是電來處理數(shù)據(jù)的好處
電信公司通過光信號(hào)來遠(yuǎn)距離傳播數(shù)據(jù),因?yàn)榕c金屬電纜中的電脈沖相比,使用同樣的能量,光信號(hào)傳播得更遠(yuǎn)。一根電纜可以同時(shí)容納許多并行數(shù)據(jù)流,由不同顏色的光線進(jìn)行傳輸。
利用光來處理數(shù)據(jù),以及傳輸數(shù)據(jù),也能夠帶來顯著的性能提升。因?yàn)楣鈱?dǎo)線路內(nèi)的光線或多或少是自由傳播的。相反,電信號(hào)必須相阻抗,產(chǎn)生廢熱。容量增加和節(jié)能減排,兩者加在一起對那些運(yùn)行大型機(jī)器學(xué)習(xí)項(xiàng)目的公司是很大的吸引。
光處理器不是一個(gè)新概念。在20世紀(jì)60年代就提出來了,用于軍用雷達(dá)系統(tǒng)。但是隨著半導(dǎo)體產(chǎn)業(yè)大步前進(jìn),數(shù)十年來芯片密度都實(shí)現(xiàn)了摩爾定律的提升。Fathom是新的光學(xué)計(jì)算復(fù)興的一部分,這一復(fù)興是由于人們認(rèn)識(shí)到摩爾定律似乎正在失效。加州大學(xué)伯克利分校的14名研究人員在最近的一份報(bào)告中提到了摩爾定律的消亡,他們提出使AI系統(tǒng)變得更加智能的技術(shù)上的挑戰(zhàn)。報(bào)告寫道:“硬件技術(shù)迅速提升的歷史正在陷入停滯?!?/p>
光學(xué)計(jì)算機(jī)不太可能在短時(shí)間內(nèi)為你的筆記本或智能手機(jī)供能。首先,F(xiàn)athom的原型機(jī)仍然太笨重了。但亞利桑那大學(xué)的教授Pierre-Alexandre Blanche說,這項(xiàng)技術(shù)看起來與芯片在基于人工神經(jīng)網(wǎng)絡(luò)的AI項(xiàng)目中的主要工作相當(dāng)匹配。Siri的語音識(shí)別、在圍棋上贏過人類的AlphaGo,都是建立在大量特定的數(shù)學(xué)運(yùn)算的基礎(chǔ)上的,即矩陣的乘法運(yùn)算。
Fathom的原型機(jī)是通過將數(shù)字編碼成光束來執(zhí)行這些操作。光束通過一系列透鏡和其他光學(xué)元件。 閱讀這些光束如何在這個(gè)過程中發(fā)生改變,可以揭示計(jì)算的結(jié)果。像這樣的光電路可以有效地執(zhí)行傳統(tǒng)計(jì)算機(jī)中存儲(chǔ)器和處理器的工作。在這些組件之間移動(dòng)數(shù)據(jù)的時(shí)間成本和能源成本是當(dāng)前使用的系統(tǒng)性能的瓶頸。
Fathom并不孤單,認(rèn)為AI系統(tǒng)需要光線的公司不止它一家??偛课挥诎屠璧膭?chuàng)業(yè)公司LightOn近日宣布,它已經(jīng)開始在數(shù)據(jù)中心測試自己的光學(xué)處理器技術(shù)。初創(chuàng)公司Lightmatter和Lightelligence去年從MIT脫離,籌集了總計(jì)2100萬美元的資金,包括來自中國搜索巨頭百度的資金。這兩家初創(chuàng)公司誕生于MIT的一個(gè)項(xiàng)目,該項(xiàng)目在光學(xué)計(jì)算機(jī)上運(yùn)行神經(jīng)網(wǎng)絡(luò)進(jìn)行語音識(shí)別。但與Fathom的設(shè)備不同,該系統(tǒng)并未負(fù)責(zé)軟件的訓(xùn)練?!拔覀冊诰W(wǎng)上發(fā)布關(guān)于該項(xiàng)目的研究報(bào)告之后,很快收到了來自投資者的多次電話,”Lightelligence首席執(zhí)行官兼創(chuàng)始人Yichen Shen說,“這是一個(gè)巨大的機(jī)遇?!?/p>
Andregg兄弟的前一家創(chuàng)業(yè)公司Halcyon Molecular偶然發(fā)現(xiàn)了另一個(gè)大好機(jī)遇。這家基因測序公司得到了特斯拉CEO Elon Musk和Facebook投資人 Peter Thiel的支持,但在2012年倒閉了,創(chuàng)始人說,這是因?yàn)楦偁帉κ诸I(lǐng)先太多。
Andregg認(rèn)為他的團(tuán)隊(duì)更適合在光學(xué)計(jì)算競賽中。盡管如此,F(xiàn)athom的原型機(jī)還是很長一段路要走。除了機(jī)器太大之外,在變冷時(shí),當(dāng)前的版本容易出錯(cuò)。他們的目標(biāo)是將系統(tǒng)安裝到一塊電路板上,這樣它就可以滑進(jìn)服務(wù)器。從外面看到的龐大系統(tǒng)的某些部分應(yīng)該相對容易縮??;機(jī)器是用相對低成本的部件組裝起來的,以便進(jìn)行修補(bǔ)。他們還必須設(shè)計(jì)一個(gè)新的芯片來檢測和操作激光束。但是設(shè)計(jì)任何類型的芯片對于初創(chuàng)公司來說都是一個(gè)復(fù)雜的任務(wù)。
Andregg認(rèn)為兩年內(nèi)還無法準(zhǔn)備好最終的產(chǎn)品,但是他兄弟倆已經(jīng)開始擔(dān)心人們將怎么利用這個(gè)產(chǎn)品 Fathom成立時(shí)是一家公益企業(yè),其使命是“為人工智能制造更好的硬件,改善所有人的生活”。這是為了讓Fathom有權(quán)拒絕他們認(rèn)為可能導(dǎo)致AI惡意使用的銷售。“我們不想見到一個(gè)負(fù)面的奇點(diǎn),”Andregg說,“如果軍方想要購買我們的系統(tǒng),我們就會(huì)拒絕?!?/p>
-
AI
+關(guān)注
關(guān)注
87文章
29824瀏覽量
268120
原文標(biāo)題:摩爾定律攪局者:這家公司用光訓(xùn)練 AI,而不是GPU
文章出處:【微信號(hào):AI_era,微信公眾號(hào):新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評(píng)論請先 登錄
相關(guān)推薦
評(píng)論