0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI和機(jī)器學(xué)習(xí)應(yīng)用需求瘋漲或使GDDR內(nèi)存供應(yīng)短缺

NJ90_gh_bee81f8 ? 來源:未知 ? 作者:胡薇 ? 2018-08-02 11:30 ? 次閱讀

GDDR (圖像雙倍數(shù)據(jù)傳輸率)內(nèi)存技術(shù)是專為高端顯卡而設(shè)計(jì)的高效能DDR規(guī)格,因此,其中的‘G’仍然象征著“圖像”(graphics);不過,近來推動(dòng)對(duì)于GDDR內(nèi)存技術(shù)需求的新應(yīng)用,顯然已經(jīng)與像素?zé)o關(guān)了。

事實(shí)上,諸如人工智能(AI)和機(jī)器學(xué)習(xí)等需要超快速內(nèi)存的應(yīng)用,已經(jīng)使得GDDR內(nèi)存供應(yīng)短缺了,因此,GDDR的制造商如果能把握機(jī)會(huì)加速量產(chǎn),現(xiàn)在正是一個(gè)不錯(cuò)的時(shí)機(jī)。例如,美光科技(Micron Technology)最近開始量產(chǎn)其8Gb GDDR6 (第六代圖像雙倍數(shù)據(jù)傳輸率)內(nèi)存,當(dāng)然瞄準(zhǔn)的就是圖像市場(chǎng),同時(shí)也看好近來熱門的汽車與網(wǎng)絡(luò)等領(lǐng)域。

GDDR內(nèi)存的一些新興應(yīng)用仍然是圖像導(dǎo)向的。在不斷成長(zhǎng)中的車用內(nèi)存市場(chǎng),它將支持越來越多的視覺儀表板和先進(jìn)駕駛輔助系統(tǒng)(ADAS),這些系統(tǒng)都必須立即回應(yīng)駕駛?cè)说膭?dòng)作,而自動(dòng)駕駛車更需要高性能內(nèi)存來處理大量的實(shí)時(shí)數(shù)據(jù)。其他新興應(yīng)用還包括增強(qiáng)現(xiàn)實(shí)(AR)和虛擬現(xiàn)實(shí)(VR)。當(dāng)然,視訊對(duì)于內(nèi)存的需求永遠(yuǎn)不嫌太多,尤其是4K已經(jīng)越來越被廣泛采用了,緊隨其后的就是8K規(guī)格。

美光運(yùn)算連網(wǎng)業(yè)務(wù)部總監(jiān)Andreas Schlapka表示,過去三年來,傳統(tǒng)的GDDR應(yīng)用,如顯卡和游戲機(jī),開始擴(kuò)展到更多的連網(wǎng)應(yīng)用和自動(dòng)駕駛。在現(xiàn)代化的車輛中,高性能內(nèi)存必須處理來自傳感器和攝影機(jī)產(chǎn)生的龐大數(shù)據(jù)量。同樣地,先進(jìn)的連網(wǎng)技術(shù)也開始采用GDDR實(shí)現(xiàn)網(wǎng)絡(luò)適配器(NIC)。他說:“五年前,數(shù)據(jù)中心的最大流量來自數(shù)據(jù)的輸入和輸出。在特定節(jié)點(diǎn)上完成有關(guān)的信息,然后再傳送回用戶的終端?!倍?,數(shù)據(jù)中心的更多流量來自不同節(jié)點(diǎn)之間的數(shù)據(jù)傳輸,從而推動(dòng)對(duì)于傳輸速率的巨大需求。

隨著更多內(nèi)存被加進(jìn)同一封裝中,每一世代的GDDR內(nèi)存(包括美光)技術(shù)不斷在改進(jìn)中,而且更加強(qiáng)調(diào)以更低功耗執(zhí)行更快的速度

提到傳輸速率時(shí),Schlapka說,隨著加密貨幣和加密挖礦蔚為主流,GDDR技術(shù)也十分有利于加密貨幣應(yīng)用。龐大的數(shù)據(jù)資必須快速地運(yùn)行,因此,所采用的內(nèi)存必須能與A6或GPU并駕齊驅(qū)。同樣地,高性能運(yùn)算,特別是AI,也都受惠于GDDR的高帶寬優(yōu)勢(shì)。他說:“如果你要訓(xùn)練神經(jīng)網(wǎng)絡(luò),就必須盡可能地執(zhí)行最多的數(shù)據(jù),理想情況下,從每一針腳到每一位都得算計(jì)在內(nèi)。你必須將其加載內(nèi)存中,然后快速地進(jìn)行運(yùn)算。我認(rèn)為這就是GDDR得以有效發(fā)揮之處,而且夠成為理想的解決方案。”

三星半導(dǎo)體(Samsung Semiconductor)專用DRAM營(yíng)銷經(jīng)理Tien Shiah說,GDDR持續(xù)穩(wěn)步發(fā)展中,每個(gè)接腳的速度更快,而且傳統(tǒng)上搭配GPU用于圖像應(yīng)用中。“現(xiàn)在,GPU正在尋找專用領(lǐng)域,特別是高端GPU開始進(jìn)入機(jī)器學(xué)習(xí)類型的應(yīng)用,因?yàn)檫@一類AI算法非常適合 GPU的平行架構(gòu)?!钡?,他說,有些應(yīng)用還需要進(jìn)一步的發(fā)展,以及采用高帶寬內(nèi)存(HBM)。三星自今年初開始為先進(jìn)圖像系統(tǒng)生產(chǎn)16Gbit GDDR6。

雖然許多新興的GDDR技術(shù)應(yīng)用都來自汽車和高性能運(yùn)算領(lǐng)域,但新的消費(fèi)類應(yīng)用也不斷出現(xiàn),例如8K視頻處理、AR和VR等。不過,Shiah指出,AR/VR應(yīng)用的發(fā)展并不如預(yù)期。

Shiah說:“這項(xiàng)技術(shù)存在著許多的市場(chǎng)炒作和用戶的興奮情緒,然后,隨著人們開始導(dǎo)入后,有些人卻感到惡心和暈眩,但這其實(shí)與計(jì)算機(jī)系統(tǒng)是否足夠強(qiáng)大有關(guān)?!彼f,早期的產(chǎn)品為了進(jìn)入市場(chǎng)通常會(huì)降低規(guī)格,以便讓更多人都能使用這項(xiàng)技術(shù),但其折衷之處就是導(dǎo)致有些人感到頭暈?zāi)垦!!半S著計(jì)算機(jī)系統(tǒng)每一年都會(huì)變得更加強(qiáng)大,以及GDDR6等圖像技術(shù)的處理能力提高,AR/VR的體驗(yàn)會(huì)更好。再加上由于GPU和CPU的性能不斷進(jìn)展,越來越多人將能享受這項(xiàng)技術(shù)的樂趣,而接下來的新戰(zhàn)場(chǎng)就會(huì)轉(zhuǎn)移到內(nèi)存了。”

好消息是,它并不像近年來面臨障礙的平面NAND,或需要等3D變得更具成本效益才能繼續(xù)向前發(fā)展,GDDR看來還有很多的選擇。Shiah說:“我們一直在研究未來將會(huì)發(fā)生什么,現(xiàn)在,我們并未看到任何障礙,接下來也將繼續(xù)致力于該技術(shù)的進(jìn)展?!?/p>

Schlapka也看到了新興內(nèi)存技術(shù)的成長(zhǎng)空間,而且,除了GDDR6之外還有其他技術(shù),無論是GDDR7還是其他內(nèi)存?!拔覀冋J(rèn)為還有空間可以進(jìn)一步發(fā)展像GDDR6這一類平行技術(shù),但這是我們?cè)诮酉聛硭牡轿迥陜?nèi)需要探討的問題?!?/p>

三星在今年初為先進(jìn)圖像系統(tǒng)量產(chǎn)16Gigabit GDDR6內(nèi)存

GDDR的當(dāng)前迭代已達(dá)到臨界點(diǎn)了。Jon Peddie Research負(fù)責(zé)人Jon Peddie表示,作為JEDEC標(biāo)準(zhǔn)之一,它已經(jīng)通過幾家公司將其納入產(chǎn)品的完整測(cè)試了,包括 AMD、英偉達(dá) (Nvidia)和高通(Qualcomm)等。他說:“這些公司都投入了這項(xiàng)技術(shù),更進(jìn)一步確保它是竹十分可靠的?!泵拦馐堑谝患疫M(jìn)入大規(guī)模量產(chǎn)的公司?!斑@對(duì)于游戲玩家來說是個(gè)好消息,對(duì)于AI開發(fā)人員來說是好消息,對(duì)于工作站人員來說也是一個(gè)大好消息。這一切都是好消息,而且當(dāng)他們學(xué)會(huì)如何從工藝中擠出更多產(chǎn)能時(shí),一切還會(huì)更美好?!?/p>

然而,正如其他技術(shù)一樣,摩爾定律(Moore’s Law)也對(duì)于GDDR的可擴(kuò)展性帶來挑戰(zhàn)。Peddie說:“GDDR6建立在摩爾最新、最好的工藝節(jié)點(diǎn)上,而且與任何新工藝節(jié)點(diǎn)一樣,在量產(chǎn)方面也存在著問題。不過,隨著半導(dǎo)體制造商日益熟悉如何建構(gòu)這些產(chǎn)品以及經(jīng)驗(yàn)更豐富時(shí),產(chǎn)量將會(huì)越來越高?!崩硐氲漠a(chǎn)量意味著制造商將會(huì)開始“賺錢”,他說,但隨著工藝節(jié)點(diǎn)進(jìn)入個(gè)位數(shù)的納米級(jí)時(shí),意味著還必須處理難以實(shí)現(xiàn)量產(chǎn)制造的“原子級(jí)”議題。

無論如何,GDDR內(nèi)存目前正處于一個(gè)理想的發(fā)展位置,而且每一世代都持續(xù)改善中。Peddie說:“你將會(huì)看到一個(gè)美好的摩爾定律模式——更多的內(nèi)存整合于同一封裝中,而且能以更低功耗實(shí)現(xiàn)更快速運(yùn)作。這就是摩爾定律的精神所在。GDDR系列內(nèi)存正是摩爾定律如何運(yùn)作的典型例子。”

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29852

    瀏覽量

    268150
  • 機(jī)器學(xué)習(xí)

    關(guān)注

    66

    文章

    8356

    瀏覽量

    132324
  • GDDR
    +關(guān)注

    關(guān)注

    0

    文章

    26

    瀏覽量

    4643

原文標(biāo)題:AI應(yīng)用需求瘋漲或帶來GDDR6缺貨潮

文章出處:【微信號(hào):gh_bee81f890fc1,微信公眾號(hào):面包板社區(qū)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    【書籍評(píng)測(cè)活動(dòng)NO.51】具身智能機(jī)器人系統(tǒng) | 了解AI的下一個(gè)浪潮!

    人的自適應(yīng)性和自主性,賦能機(jī)器人在多種場(chǎng)景中的應(yīng)用。 例如,在家庭自動(dòng)化領(lǐng)域,具身智能機(jī)器人能夠感知家庭成員的日常習(xí)慣和需求,自動(dòng)執(zhí)行清潔、整理其他家務(wù)任務(wù)。它們通過觀察家庭成員的活
    發(fā)表于 11-11 10:20

    AI大模型與傳統(tǒng)機(jī)器學(xué)習(xí)的區(qū)別

    多個(gè)神經(jīng)網(wǎng)絡(luò)層組成,每個(gè)層都包含大量的神經(jīng)元和權(quán)重參數(shù)。 傳統(tǒng)機(jī)器學(xué)習(xí) :模型規(guī)模相對(duì)較小,參數(shù)數(shù)量通常只有幾千到幾百萬個(gè),模型結(jié)構(gòu)相對(duì)簡(jiǎn)單。 二、訓(xùn)練數(shù)據(jù)需求 AI大模型 :需要大規(guī)
    的頭像 發(fā)表于 10-23 15:01 ?309次閱讀

    RISC-V如何支持不同的AI機(jī)器學(xué)習(xí)框架和庫?

    RISC-V如何支持不同的AI機(jī)器學(xué)習(xí)框架和庫?還請(qǐng)壇友們多多指教一下。
    發(fā)表于 10-10 22:24

    AI引擎機(jī)器學(xué)習(xí)陣列指南

    AMD Versal AI Core 系列和 Versal AI Edge 系列旨在憑借 AI 引擎機(jī)器學(xué)習(xí) ( ML ) 架構(gòu)來提供突破性
    的頭像 發(fā)表于 09-18 09:16 ?289次閱讀
    <b class='flag-5'>AI</b>引擎<b class='flag-5'>機(jī)器</b><b class='flag-5'>學(xué)習(xí)</b>陣列指南

    英偉達(dá)RTX 40顯卡面臨短暫供應(yīng)短缺

    據(jù)最新市場(chǎng)傳言,英偉達(dá)(NVIDIA)的GeForce RTX 40系列顯卡將從今年8月開始面臨短暫供應(yīng)短缺的困境。這一突發(fā)情況主要?dú)w因于某批次美光提供的GDDR6X內(nèi)存模塊質(zhì)量未達(dá)標(biāo)
    的頭像 發(fā)表于 08-01 17:09 ?579次閱讀

    成都匯陽投資關(guān)于跨越帶寬增長(zhǎng)極限,HBM 賦能AI新紀(jì)元

    ? ? ?【AI 時(shí)代新需求,HBM 應(yīng)運(yùn)而生】 隨著人工智能技術(shù)的快速發(fā)展,傳統(tǒng)的 GDDR 內(nèi)存逐漸達(dá)到其技術(shù)發(fā)展的瓶頸: 1)GDDR
    的頭像 發(fā)表于 07-04 10:55 ?601次閱讀

    業(yè)界預(yù)警:通用型DRAM供應(yīng)面臨短缺

    在當(dāng)前的半導(dǎo)體存儲(chǔ)芯片市場(chǎng)中,一個(gè)引人注目的趨勢(shì)正在悄然成形。業(yè)界專家紛紛指出,隨著高帶寬存儲(chǔ)(HBM)等先進(jìn)DRAM技術(shù)的投資熱潮,通用型DRAM(Dynamic Random-Access Memory,動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器)的供應(yīng)可能會(huì)陷入短缺的境地。
    的頭像 發(fā)表于 06-26 11:46 ?784次閱讀

    請(qǐng)問PSoC? Creator IDE可以支持IMAGIMOB機(jī)器學(xué)習(xí)嗎?

    。 我發(fā)現(xiàn)IMAGIMOB 是一個(gè)很好的解決方案來滿足我的需求,但現(xiàn)在的問題是, PSoC? Creator 不支持 IMAGIMOB! PSoC? Creator 可以支持機(jī)器學(xué)習(xí)
    發(fā)表于 05-20 08:06

    risc-v多核芯片在AI方面的應(yīng)用

    得RISC-V多核芯片能夠更好地適應(yīng)AI算法的不同需求,包括深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等,從而提高芯片的性能和效率,降低成本,使AI邊緣計(jì)算晶片更具
    發(fā)表于 04-28 09:20

    Rambus推GDDR7內(nèi)存控制器IP滿足AI應(yīng)用需求

    據(jù)報(bào)道,該公司的 GDDR7 控制器采用 PAM3 信號(hào),運(yùn)行速度高達(dá) 40 Gbps,能為 GDDR7 存儲(chǔ)器設(shè)備提供 160 GB/s 的吞吐量,相比其自身研發(fā)的GDDR6 控制器,提升了 67%。
    的頭像 發(fā)表于 04-23 15:52 ?389次閱讀

    西部數(shù)據(jù)硬盤全線提價(jià),AI需求激增與供應(yīng)鏈緊張成漲價(jià)雙引擎

    西部數(shù)據(jù)高級(jí)副總裁Scott Davis在函件中明確指出,由于市場(chǎng)對(duì)HDD機(jī)械硬盤和SSD固態(tài)硬盤的需求遠(yuǎn)超預(yù)期,導(dǎo)致產(chǎn)品供應(yīng)出現(xiàn)嚴(yán)重短缺。
    的頭像 發(fā)表于 04-11 14:55 ?801次閱讀

    FPGA在深度學(xué)習(xí)應(yīng)用中將取代GPU

    基礎(chǔ)設(shè)施,人們?nèi)匀粵]有定論。如果 Mipsology 成功完成了研究實(shí)驗(yàn),許多正受 GPU 折磨的 AI 開發(fā)者將從中受益。 GPU 深度學(xué)習(xí)面臨的挑戰(zhàn) 三維圖形是 GPU 擁有如此大的內(nèi)存和計(jì)算能力
    發(fā)表于 03-21 15:19

    GDDR和DDR代表什么?GDDR和DDR內(nèi)存有什么區(qū)別?

    DDR 代表雙倍數(shù)據(jù)速率double data rate,GDDR 代表圖形雙倍數(shù)據(jù)速率graphics double data rate。
    的頭像 發(fā)表于 03-17 09:24 ?2434次閱讀
    <b class='flag-5'>GDDR</b>和DDR代表什么?<b class='flag-5'>GDDR</b>和DDR<b class='flag-5'>內(nèi)存</b>有什么區(qū)別?

    英偉達(dá)、AMD新款顯卡仍配備2GB GDDR7顯存

    據(jù)悉,現(xiàn)行GDDR6顯存每模塊采用8GB顯存容量,對(duì)此,@kopite7kimi援引內(nèi)部消息稱,英偉達(dá)即將發(fā)布的GeForce RTX 5090顯卡并無內(nèi)存翻倍的可能性。
    的頭像 發(fā)表于 03-08 14:54 ?635次閱讀

    臺(tái)積電超5%創(chuàng)歷史新高 AI需求旺盛可望逐年高速增長(zhǎng)50%

    臺(tái)積電超5%創(chuàng)歷史新高 在AI需求旺盛的帶動(dòng)下臺(tái)積電股價(jià)水漲船高,臺(tái)積電臺(tái)股在3月4日一度超5%;股價(jià)高達(dá)725元新臺(tái)幣,市值上漲到18.8萬億新臺(tái)幣,創(chuàng)歷史新高。而在上周五臺(tái)積電
    的頭像 發(fā)表于 03-04 14:13 ?699次閱讀