0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

摩爾定律所說的“指數(shù)發(fā)展曲線”的真正意義

DPVg_AI_era ? 來源:未知 ? 作者:李倩 ? 2018-07-20 10:30 ? 次閱讀

摩爾定律不斷給人這種感覺:就是在此時此刻,我們正處于人工智能行業(yè)獨一無二的大變革時期。然而,只要計算力的增長繼續(xù)遵循指數(shù)級的價格-性能曲線,那么未來的每一代人回過頭來看時,過去的時代都會是幾乎沒有進步的時代。

現(xiàn)在我們中的大部分人都很熟悉摩爾定律,這個著名的定律指出,計算力的發(fā)展遵循指數(shù)曲線,每18個月性價比(即單位成本下的計算速度)翻一倍。不過,在將摩爾定律應(yīng)用在自己的商業(yè)策略中的時候,即便是眼光最長遠的人也難免遭遇巨大的“AI盲點”。

我曾經(jīng)與很多成功的、策略大師級的杰出商人接觸過,他們都善于在業(yè)內(nèi)不起眼的角落里發(fā)現(xiàn)商機,但卻把握不住摩爾定律所說的“指數(shù)發(fā)展曲線”的真正意義。藉由這條曲線獲利的行業(yè)有很多,但有一個技術(shù)領(lǐng)域尤其獲益頗豐,即人工智能。

人們無法把握人工智能的發(fā)展究竟有多快的原因之一是,它的發(fā)展軌跡過于簡單,甚至有些可笑:從實用性的角度來說,要想在幻燈片或圖表這種有限空間上描繪出指數(shù)曲線的陡峭軌跡幾乎是不可能的。形象化地描繪出這一曲線的早期圖像是可行的,不過隨著曲線迅速變得越來越陡峭,相關(guān)數(shù)字會迅速增大,讓繪圖變得越來越麻煩。

為了解決這一視覺空間不足的問題,我們可以使用對數(shù)刻度作為數(shù)學(xué)工具,將指數(shù)曲線壓扁,以便在較小的空間內(nèi)呈現(xiàn)。

遺憾的是,廣泛應(yīng)用的對數(shù)刻度也會導(dǎo)致另一個問題。這個工具的原理是:豎直方向上Y坐標軸上的刻度不在按照線性增加,而是乘以一個倍數(shù),比如100倍。經(jīng)典的摩爾定律圖(如下圖)一般都會使用對數(shù)刻度來刻畫過去120年來計算力成本的指數(shù)級發(fā)展(Y軸單位為每1美元能買到的每秒計算次數(shù)),圖表的涵蓋范圍從20世紀初的機械設(shè)備,一直到今天性能強大的硅基GPU。

圖1:以對數(shù)刻度繪制的計算成本的指數(shù)級發(fā)展。

現(xiàn)在,對數(shù)刻度圖已經(jīng)成為一種很有價值的工具,節(jié)省空間,便于速記。實際上,對于任何隨時間陡峭而迅速上升的曲線,都可以利用對數(shù)刻度進行方便處理。

不過,對數(shù)刻度的應(yīng)用也伴隨著一個潛在的巨大代價:它會欺騙你的眼睛。

對數(shù)刻度會在數(shù)學(xué)上將巨大的數(shù)字壓縮,使指數(shù)曲線呈現(xiàn)為線性。由于該工具將不受控制的指數(shù)增長曲線壓縮成線性,讓人們很容易對未來計算能力增長的速度產(chǎn)生舒適感,甚至滋生自滿情緒。

我們的邏輯大腦能夠理解對數(shù)圖,但是我們在潛意識中卻看到了一條線性的曲線。

那么,有什么有效的方法能夠消除對數(shù)圖表帶來的“戰(zhàn)略性近視”問題呢?重新回歸原來的線性刻度可能會解決一部分問題。

如下圖2所示,我利用數(shù)據(jù)擬合一條指數(shù)曲線,然后在Y軸使用線性刻度繪圖。同樣地,Y軸同樣表示1美元能夠買到的運算速度(單位為Gflop),X軸表示時間。不過在圖2中,Y軸上的每個刻度對應(yīng)的計算力增量僅為1Gflop(而不是圖1中的100Gflop)。flop一詞是指每秒鐘的浮點操作數(shù),是衡量計算力的標準量度。

圖2:以線性刻度繪制的摩爾定律圖表

圖2所示為實際的、真正反映摩爾定律的指數(shù)曲線。從這張表中,我們可以很容易理解單位價格計算性能在過去十年中的迅速發(fā)展。不過,這張圖中存在一些嚴重錯誤,從表中來看,似乎在整個20世紀,計算機的成本和性能根本沒有提高,而這很明顯是錯誤的。

圖2表明,用線性刻度呈現(xiàn)摩爾定律隨時間的變化也可能會有問題。這種方式會讓過去時間段的曲線看上去很平,好像一直完全沒有進步,直到最近才有所發(fā)展。此外,這種線性刻度的圖表也會導(dǎo)致人們得出錯誤的結(jié)論:覺得當(dāng)前的有利時間點就代表了一段獨一無二的“幾乎飛躍式”的技術(shù)進步。

這一點讓我想到由圖表引起的“AI盲區(qū)”的又一個主要原因:線性刻度圖表富有欺騙性,讓人們以為自己生活在發(fā)展變革的高峰期。

現(xiàn)代生活造成的“近視”

讓我們再來看圖2。如果從2018年的情況開始看,那么整個20世紀中每十年一次的性價比翻倍,在曲線上看就是平的,顯得幾乎無足輕重。一個人看了圖2,可能會對自己說:“多虧我活到了現(xiàn)在。我還記得2009年時,我以為我的iPhone就算快的了,我當(dāng)時都不知道它有多慢!現(xiàn)在我總算趕上令人激動的飛躍時刻了!”

但事實并非如此。這種垂直式的“轉(zhuǎn)變點”實際上并不存在。

每條指數(shù)曲線都是自相似的,也就是說,未來的曲線形狀和過去的曲線形狀是一樣的。在下方的圖3中再次采用線性刻度繪制了摩爾定律的指數(shù)曲線,但不同的是,圖3是以2028年的視角繪制的。這條曲線假設(shè),我們在過去100年中的經(jīng)歷的技術(shù)進步還會在未來至少10年內(nèi)繼續(xù)。該圖表明,在2028年,1美元將能夠買到大約200Gflop的計算力。

不過,圖3也呈現(xiàn)出一些分析上的困境。

圖3 以線性刻度繪制的摩爾定律曲線(2028年視角)

在圖中仔細觀察今天(2018年)的計算力,如果從2028年生活和工作的人所處的優(yōu)勢點來看,看上去似乎在21世紀初期,計算力似乎也完全沒有任何進步。就好像2018年我們使用的計算設(shè)備也就比上世紀50年代的設(shè)備性能強一點點而已。觀察者也可以得出結(jié)論,認為當(dāng)前年份(2028年)為摩爾定律的頂點,即計算力的進步最終一飛沖天的時刻。

每年我都會對圖3進行重繪,只改變時間跨度。重繪后的曲線形狀幾乎完全不變,只有Y軸的刻度會有改變??梢钥吹?,除了Y軸的刻度有所區(qū)別之外,圖2和圖3的形狀幾乎完全相同。從每張圖上的未來的時間點看,過去時間點的曲線都是平的。嗯,這種誤解可能會導(dǎo)致有缺陷的商業(yè)策略,尤其是在人工智能領(lǐng)域。

這意味著什么?

對于人們而言,指數(shù)級的變化率往往很難理解,也很難看明白。指數(shù)曲線的特殊之處在于,它的每個點在數(shù)學(xué)上都是自相似的。也就是說,這種不斷爬升的曲線沒有平坦部分,沒有上升部分,也不存在很多商人所說的“肘部”和“曲棍球棒”彎曲部分。如果你對過去或未來某時間段的曲線放大觀察,你會發(fā)現(xiàn)它們的形狀完全相同。

摩爾定律不斷給人這種感覺,就是在此時此刻,我們正處于人工智能行業(yè)(以及其他與摩爾定律有關(guān)的行業(yè))獨一無二的大變革時期。然而,只要計算力的增長繼續(xù)遵循指數(shù)級的價格-性能曲線,那么未來的每一代人回過頭來看時,過去的時代都會是幾乎沒有進步的時代。此話反過來也是成立的,即當(dāng)前的一代人展望10年后的未來,同樣想象不到人將會取得多大的進步。

所以,如果有人規(guī)劃計算力呈指數(shù)增長的未來,那么現(xiàn)在的挑戰(zhàn)在于克服自己的大腦對該曲線的有缺陷的理解方式。這聽起來很難,你需要記住上面的三幅圖表(視覺一致性很高的對數(shù)刻度圖,以及富有欺騙性、但看起來很過癮的線性刻度圖),真正體會指數(shù)級增長的力量。因為過去看上去總是平的,而未來看上去總是一飛沖天。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 摩爾定律
    +關(guān)注

    關(guān)注

    4

    文章

    630

    瀏覽量

    78906
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4678

    瀏覽量

    128613
  • 人工智能
    +關(guān)注

    關(guān)注

    1791

    文章

    46698

    瀏覽量

    237189

原文標題:AI摩爾定律繼續(xù)超速?2028年,1美元能買200GFLOPS計算力!

文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    什么是摩爾定律?

    摩爾定律是近半個世紀以來,指導(dǎo)半導(dǎo)體行業(yè)發(fā)展的基石。它不僅是技術(shù)進步的預(yù)言,更是科技領(lǐng)域中持續(xù)創(chuàng)新的見證。要完全理解摩爾定律的影響和意義,首先必須了解它的起源、內(nèi)容及其對整個信息技術(shù)產(chǎn)
    的頭像 發(fā)表于 08-05 09:36 ?4997次閱讀
    什么是<b class='flag-5'>摩爾定律</b>?

    晶圓和摩爾定律有什么關(guān)系?

    ,并終將對人類的生活、工作產(chǎn)生巨大影響。   在摩爾定律中提到減少成本是集成電路最大的吸引力之一,并且隨著技術(shù)發(fā)展,集成化程度越高,低成本的優(yōu)點更為明顯。對于簡單的電路來說,每個部件的費用與電路中所
    發(fā)表于 12-01 16:16

    介紹28 nm創(chuàng)新技術(shù),超越摩爾定律

    介紹28 nm創(chuàng)新技術(shù),超越摩爾定律
    發(fā)表于 08-13 22:26

    摩爾定律也適用于EPON芯片商用之路?

    個月,設(shè)備性能提高十倍,從1G到10G EPON恰好符合摩爾定律。   設(shè)備性能的發(fā)展滿足摩爾定律,那么網(wǎng)絡(luò)整體呢?2009年權(quán)威機構(gòu)統(tǒng)計,中國網(wǎng)民平均寬帶速率為1.744M;2010年10月,該數(shù)據(jù)
    發(fā)表于 09-27 09:32

    半導(dǎo)體行業(yè)的里程碑“摩爾定律”竟是這樣來的

    理工大的師兄弟、好哥們;另一方面他想向當(dāng)時已經(jīng)是大公司的英特爾套(pian)點經(jīng)費?!?b class='flag-5'>摩爾”對半導(dǎo)體企業(yè)的發(fā)展至關(guān)重要事實證明,“摩爾定律”對于半導(dǎo)體(IC)行業(yè)依然有效。自1958年杰克·基爾比
    發(fā)表于 07-14 17:00

    摩爾定律還能走多遠看了就知道

    摩爾定律還能走多遠?—— CPU 的內(nèi)存瓶頸
    發(fā)表于 02-01 07:27

    摩爾定律在測試領(lǐng)域有哪些應(yīng)用?

    摩爾定律給基于PXI的模塊化設(shè)備造成了什么影響?摩爾定律在測試領(lǐng)域有哪些應(yīng)用?
    發(fā)表于 04-13 06:10

    請問摩爾定律死不死?

    請問摩爾定律死不死?
    發(fā)表于 06-17 08:25

    摩爾定律,摩爾定律是什么意思

    摩爾定律,摩爾定律是什么意思 摩爾定律是由英特爾(Intel)創(chuàng)始人之一戈登·摩爾(Gordon Moore)提出來的。其
    發(fā)表于 02-26 11:28 ?1584次閱讀

    摩爾定律定義與發(fā)展

    摩爾定律是指IC上可容納的晶體管數(shù)目,約每隔18個月便會增加一倍,性能也將提升一倍。摩爾定律是由英特爾(Intel)名譽董事長戈登·摩爾(Gordon Moore)經(jīng)過長期觀察發(fā)現(xiàn)得之。
    發(fā)表于 05-21 16:14 ?6238次閱讀

    摩爾定律_摩爾定律是什么

    電子發(fā)燒友網(wǎng)為大家整理了摩爾定律專題,講述了摩爾定律的定義,摩爾定律的由來與發(fā)展,深入全面的講解了摩爾定律是什么。供大家認識學(xué)習(xí)
    發(fā)表于 05-21 16:19
    <b class='flag-5'>摩爾定律</b>_<b class='flag-5'>摩爾定律</b>是什么

    摩爾定律的準確性_摩爾定律失效的原因_超越摩爾發(fā)展的新趨勢

    摩爾定律是關(guān)于人類創(chuàng)造力的定律,而不是物理學(xué)定律”。持類似觀點的人也認為,摩爾定律實際上是關(guān)于人類信念的定律,當(dāng)人們相信某件事情一定能做到
    發(fā)表于 11-29 10:11 ?4189次閱讀

    對于摩爾定律是個欲望定律,你怎么看?

    嚴格意義來說摩爾定律并不能算一個準確的定律,或者根本不算一個定律,摩爾也是通過對后期行業(yè)研究得出一種發(fā)展
    發(fā)表于 11-29 10:35 ?1273次閱讀

    摩爾定律是什么_摩爾定律提出者及含義

     摩爾定律是由英特爾(Intel)創(chuàng)始人之一戈登·摩爾(GordonMoore)提出來的。
    的頭像 發(fā)表于 03-09 09:18 ?3w次閱讀

    AI人工智能和摩爾定律的后指數(shù)時代是怎樣的

    摩爾定律指數(shù)級增長的減少幾乎同時發(fā)生了訓(xùn)練人工智能的計算能力需求的指數(shù)級增長。
    發(fā)表于 11-12 11:39 ?557次閱讀