2017年圖靈獎(jiǎng)得主、現(xiàn)任谷歌工程師以及計(jì)算機(jī)體系結(jié)構(gòu)宗師David Patterson表示我們正處于“后摩爾定律時(shí)代”。谷歌、英偉達(dá)、微軟、英特爾等各家公司都在探索不同的機(jī)器學(xué)習(xí)專用架構(gòu),最終市場(chǎng)會(huì)決定一切。對(duì)于硬件和軟件工程師而言,正有無(wú)數(shù)能獲得圖靈獎(jiǎng)的機(jī)遇在前面。
2017年圖靈獎(jiǎng)得主之一、加州大學(xué)教授、Google工程師和RISC先驅(qū)David Patterson表示,沒(méi)有什么是比現(xiàn)在從事計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)更好的時(shí)候了。
那是因?yàn)椋柖烧娴慕Y(jié)束了,他說(shuō):“如果摩爾定律仍然有效,那我們現(xiàn)在就落后了15倍。我們正處于后摩爾定律時(shí)代(post-Moore’s Law era)?!?/p>
上周,在圣何塞舉行的2018年@Scale會(huì)議上,Patterson表示,“我們已經(jīng)處于性能增長(zhǎng)的最后階段。當(dāng)性能每18個(gè)月翻一番時(shí),人們就會(huì)丟掉用得好好的臺(tái)式電腦,因?yàn)樗麄兣笥训男码娔X速度要快得多得多?!?/p>
但去年,Patterson曾說(shuō),“運(yùn)行單個(gè)程序的性能只增長(zhǎng)了3%,因此它是每20年翻一番。如果你只是坐在那里等著芯片變得更快,你將不得不等待很長(zhǎng)的時(shí)間?!?/p>
對(duì)于像Patterson這樣的計(jì)算機(jī)架構(gòu)師來(lái)說(shuō),這實(shí)際上是個(gè)好消息。他同時(shí)指出,這也是軟件工程師創(chuàng)新的好機(jī)會(huì)。“專為處理特定類(lèi)型計(jì)算問(wèn)題而定制的革命性的新硬件架構(gòu)和新軟件語(yǔ)言,正等待我們?nèi)ラ_(kāi)發(fā),”P(pán)atterson說(shuō):“這些事情你只要去做,就有機(jī)會(huì)拿圖靈獎(jiǎng)?!?/p>
作為軟件方面的一個(gè)例子,Patterson表示將Python重寫(xiě)為C可以使性能提高50倍。加上其他一些優(yōu)化方法,速度會(huì)急劇增加,與原始Python程序相比性能提高1000倍也是完全有可能的。
在硬件方面,Patterson認(rèn)為特定領(lǐng)域架構(gòu)(domain-specific architectures,DSA)運(yùn)行得更好。他說(shuō):“這不是魔術(shù),只是我們能做的一些事情?!崩?,應(yīng)用程序并不都需要用同樣精度的計(jì)算。他說(shuō),對(duì)于有些應(yīng)用,你可以使用比常規(guī)的IEEE 754標(biāo)準(zhǔn)更低精度的浮點(diǎn)運(yùn)算。
Patterson說(shuō),機(jī)器學(xué)習(xí)是現(xiàn)在應(yīng)用這種新架構(gòu)和語(yǔ)言的最大機(jī)會(huì)?!叭绻闶亲鲇布?,”他說(shuō),“你希望你的朋友都恨不得要更多更多的計(jì)算機(jī)。”而機(jī)器學(xué)習(xí)對(duì)于計(jì)算來(lái)說(shuō)是“貪婪的,我們太喜歡了”。
他說(shuō),如今,關(guān)于哪種類(lèi)型的計(jì)算機(jī)架構(gòu)最適合機(jī)器學(xué)習(xí),業(yè)界有很多爭(zhēng)議,有很多公司在不同的架構(gòu)上下注。谷歌擁有張量處理單元(TPU),每個(gè)芯片有一個(gè)核心和用軟件控制的內(nèi)存(而非緩存),英偉達(dá)的GPU則擁有80多個(gè)內(nèi)核;微軟正在走FPGA的路線。
至于英特爾,Patterson表示他們“在所有的賽道上都下了注”,為機(jī)器學(xué)習(xí)推銷(xiāo)傳統(tǒng)的CPU,收購(gòu)Altera(這家公司向微軟提供FPGA),并且收購(gòu)Nervana,后者專注于開(kāi)發(fā)神經(jīng)網(wǎng)絡(luò)專用處理器(類(lèi)似于谷歌的TPU)。
除了這些大公司外,Patterson表示至少還有45家硬件初創(chuàng)公司都在解決這個(gè)問(wèn)題,即設(shè)計(jì)機(jī)器學(xué)習(xí)專用架構(gòu)。最終,他說(shuō),市場(chǎng)將決定一切。
“現(xiàn)在,”他說(shuō),“是計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)的黃金時(shí)代。”
-
芯片
+關(guān)注
關(guān)注
452文章
50206瀏覽量
420924 -
摩爾定律
+關(guān)注
關(guān)注
4文章
630瀏覽量
78893 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8349瀏覽量
132315
原文標(biāo)題:圖靈獎(jiǎng)得主David Patterson:將Python重寫(xiě)為C,性能最高提升1000倍!
文章出處:【微信號(hào):AI_era,微信公眾號(hào):新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論