0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

MLPerf AI性能測(cè)試:榜單的份量究竟有多重?

腦極體 ? 來源:腦極體 ? 作者:腦極體 ? 2022-07-05 18:08 ? 次閱讀

數(shù)字化時(shí)代,數(shù)據(jù)是新的生產(chǎn)資料,算力是新的生產(chǎn)力。很多朋友好奇,算力究竟從哪里來?一個(gè)重要的答案就是服務(wù)器。

不難發(fā)現(xiàn),GDP(國(guó)內(nèi)生產(chǎn)總值)與服務(wù)器數(shù)量呈現(xiàn)明顯的正線性相關(guān),服務(wù)器出貨量已經(jīng)可以作為衡量計(jì)算力發(fā)展水平的重要指標(biāo)項(xiàng)。而在服務(wù)器市場(chǎng),我們注意到一個(gè)相對(duì)低調(diào)的名字:寧暢。

不久前,在國(guó)際權(quán)威AI性能基準(zhǔn)測(cè)試MLPerf Training V2.0中,寧暢的人工智能服務(wù)器多項(xiàng)測(cè)試成績(jī)斬獲全球第一,打破2項(xiàng)世界紀(jì)錄。而這并不是偶然,事實(shí)上,寧暢已經(jīng)連續(xù)五次問鼎世界冠軍。

AI對(duì)數(shù)字經(jīng)濟(jì)的重要性不言而喻,而AI算法對(duì)算力的需求也呈指數(shù)級(jí)增長(zhǎng)。人工智能服務(wù)器領(lǐng)域的進(jìn)步,為AI技術(shù)的發(fā)展和落地應(yīng)用提供了更為堅(jiān)實(shí)的算力支撐。在此基礎(chǔ)上,或許應(yīng)該去解答一個(gè)問題:寧暢在人工智能服務(wù)器上捧回的獎(jiǎng)杯,在算力時(shí)代份量幾何?

獎(jiǎng)杯的份量 :國(guó)際AI評(píng)測(cè)背后的邏輯

算力評(píng)測(cè),大家都不陌生,但人工智能服務(wù)器的性能高低,卻不是“一言不合跑個(gè)分”那么簡(jiǎn)單。一方面,AI計(jì)算是多種任務(wù)、架構(gòu)的集合,考較的是整個(gè)系統(tǒng)的處理能力,而非單一硬件;另外,不同任務(wù)、不同場(chǎng)景,AI服務(wù)器的表現(xiàn)可能相差懸殊,所以單一任務(wù)出色未必能代表整體水平, AI性能評(píng)測(cè)要分任務(wù)、分賽道,方才公允,有參考意義。

所以,MLPerf固定任務(wù)(closed)賽道中,基于同一套參數(shù),在DLRM、MASK R-CNN、ResNet、U-NET3D等8個(gè)AI場(chǎng)景下,對(duì)各計(jì)算系統(tǒng)進(jìn)行評(píng)測(cè)。針對(duì)不同場(chǎng)景分門別類地評(píng)測(cè),意味著面向多場(chǎng)景的AI硬件更具優(yōu)勢(shì),經(jīng)受住不同AI任務(wù)的考驗(yàn)。比如MASK R-CNN(重量級(jí)圖像目標(biāo)檢測(cè))測(cè)試和U-Net3D(圖像分割模型)測(cè)試,主要應(yīng)用在自動(dòng)駕駛、醫(yī)療圖像分析、監(jiān)控、工業(yè)檢測(cè)等場(chǎng)景中,這些模型的訓(xùn)練任務(wù)是數(shù)據(jù)中心的典型應(yīng)用,成為各個(gè)廠商PK的主戰(zhàn)場(chǎng)。今年,寧暢人工智能服務(wù)器X640 G40打破了自己創(chuàng)下的世界紀(jì)錄,分別搭載16顆、20顆NVIDIA A100 Tensor Core 80GB GPU,再奪MASK R-CNN、U-Net3D兩項(xiàng)冠軍。

7b071d6f2d094442b505060c81e0aeb3~tplv-tt-shrink:640:0.image

另外,AI模型應(yīng)用到產(chǎn)業(yè)中,不可能無限制地增加資源,同一配置下表現(xiàn)最優(yōu),對(duì)于行業(yè)用戶來說是很有參考意義的,而這也是AI獨(dú)角獸或初創(chuàng)企業(yè)在一眾巨頭中脫穎而出的蹊徑??梢钥吹?,在搭載NVIDIA A30 Tensor Core GPU同一配置下,寧暢服務(wù)器X640 G40也表現(xiàn)出了優(yōu)越的性能,分別在Bert(自然語言處理)、RNN-T(語音識(shí)別)、U-Net3D(圖像分割模型)、DLRM(推薦系統(tǒng))、RetinaNet(目標(biāo)檢測(cè))以及ResNet(圖像分類)6項(xiàng)測(cè)試中獲得第一。

綠色化、低碳化成為大勢(shì)所趨,能耗也應(yīng)該納入到AI硬件的重點(diǎn)考慮范疇。液冷技術(shù)在散熱方面比傳統(tǒng)數(shù)據(jù)中心的空調(diào)系統(tǒng)更具優(yōu)勢(shì),也成為服務(wù)器產(chǎn)品的創(chuàng)新焦點(diǎn),此次寧暢X660 G45 LP液冷服務(wù)器也首次參與了MLPerf Training測(cè)試,展現(xiàn)出了部件級(jí)精確制冷水準(zhǔn),在降低數(shù)據(jù)中心PUE、節(jié)能減排方面讓人期待。

智在八方:從國(guó)際賽場(chǎng)走向千行百業(yè)

對(duì)于服務(wù)器廠商來說,比賽只是訓(xùn)練場(chǎng),最終還是要到廣闊的市場(chǎng)中去,將AI的技術(shù)紅利播撒到四面八方。千行百業(yè),才是成績(jī)背后真正的重量。

憑借優(yōu)秀的產(chǎn)品與服務(wù),寧暢人工智能服務(wù)器也得到了企業(yè)客戶的普遍認(rèn)可。IDC發(fā)布的《2021下半年度(H2)中國(guó)加速計(jì)算服務(wù)器市場(chǎng)分析報(bào)告》顯示,寧暢以8.5%的市場(chǎng)銷售額占比,位列中國(guó)區(qū)GPU以及加速服務(wù)器市場(chǎng)第二名。

52235eb087b34604826b37485191b7a6~tplv-tt-shrink:640:0.image

從賽場(chǎng)到市場(chǎng),接下來圍繞算力將發(fā)生哪些連鎖反應(yīng)?

首先,是智能算力的供給更加充沛,單位成本降低,直接惠及智能化轉(zhuǎn)型的企業(yè)。以寧暢為例,其人工智能服務(wù)器產(chǎn)品及服務(wù)已覆蓋互聯(lián)網(wǎng)、汽車、電信、金融、云計(jì)算等眾多行業(yè)超千家TOP級(jí)用戶。

其次,推動(dòng)AI相關(guān)應(yīng)用創(chuàng)新,元宇宙、數(shù)字孿生、科學(xué)計(jì)算等新應(yīng)用有了算力底座支撐,或許將在不久的將來能成為現(xiàn)實(shí)。

更進(jìn)一步,智能算力與數(shù)字經(jīng)濟(jì)相輔相成,助推數(shù)字中國(guó)的高速可持續(xù)發(fā)展。而中國(guó)產(chǎn)業(yè)數(shù)字化、智能化升級(jí),構(gòu)成了一個(gè)確定性的增量空間,寧暢的人工智能服務(wù)器為數(shù)字經(jīng)濟(jì)提供算力支撐的同時(shí),自身也將收獲更多價(jià)值。

數(shù)字經(jīng)濟(jì)需要聚合多種產(chǎn)業(yè)力量和技術(shù)力量,才是MLPerf背后的核心價(jià)值,相信中國(guó)廠商們將繼續(xù)在賽場(chǎng)與市場(chǎng)中書寫傳奇。

審核編輯 黃昊宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    29824

    瀏覽量

    268112
  • 人工智能
    +關(guān)注

    關(guān)注

    1790

    文章

    46671

    瀏覽量

    237111
  • 寧暢
    +關(guān)注

    關(guān)注

    0

    文章

    42

    瀏覽量

    5357
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    浪潮信息AI存儲(chǔ)性能測(cè)試的領(lǐng)先之道

    AI技術(shù)的無限可能。近日,在MLCommons的子項(xiàng)目MLPerf Storage v1.0性能基準(zhǔn)評(píng)測(cè)中,浪潮信息再度展現(xiàn)了在AI存儲(chǔ)領(lǐng)域的卓越實(shí)力。
    的頭像 發(fā)表于 10-29 16:30 ?159次閱讀
    浪潮信息<b class='flag-5'>AI</b>存儲(chǔ)<b class='flag-5'>性能</b><b class='flag-5'>測(cè)試</b>的領(lǐng)先之道

    浪潮信息AS13000G7榮獲MLPerf? AI存儲(chǔ)基準(zhǔn)測(cè)試五項(xiàng)性能全球第一

    眾,在3D-UNet和CosmoFlow兩個(gè)模型共計(jì)八項(xiàng)測(cè)試中,斬獲五項(xiàng)冠軍。 MLPerf? Storage v1.0 AI存儲(chǔ)基準(zhǔn)測(cè)試成績(jī) ML
    的頭像 發(fā)表于 09-28 16:46 ?176次閱讀
    浪潮信息AS13000G7榮獲<b class='flag-5'>MLPerf</b>? <b class='flag-5'>AI</b>存儲(chǔ)基準(zhǔn)<b class='flag-5'>測(cè)試</b>五項(xiàng)<b class='flag-5'>性能</b>全球第一

    請(qǐng)問STM32F407 USB的FIFO究竟有多少空間?

    在STM32F4xx參考手冊(cè)時(shí),介紹USB系統(tǒng)性能部分,有說**OTG_FS 模塊能夠高效填充1.25 KB RAM緩沖區(qū),并且在USB框圖里,也有寫 RAM總線與 1.25KB USB數(shù)據(jù)
    發(fā)表于 07-04 07:46

    摩爾線程與智譜AI完成大模型性能測(cè)試與適配

    近日,摩爾線程與智譜AI在人工智能領(lǐng)域開展了一輪深入的合作,共同對(duì)GPU大模型進(jìn)行了適配及性能測(cè)試。此次測(cè)試不僅涵蓋了大模型的推理能力,還涉及了基于摩爾線程夸娥(KUAE)千卡智算集群
    的頭像 發(fā)表于 06-14 16:40 ?958次閱讀

    STM32的DAC輸出有個(gè)BUFFER功能,BUFFer的驅(qū)動(dòng)能力究竟有多大,普通的運(yùn)放輸出可以嗎?驅(qū)動(dòng)LED可以嗎?

    DAC是輸出模擬電壓給外界參考,STM32的DAC輸出有個(gè)BUFFER功能,但不知這個(gè)BUFFer的驅(qū)動(dòng)能力究竟有多大,普通的運(yùn)放輸出可以嗎?驅(qū)動(dòng)LED可以嗎?有沒有人做過這塊,給個(gè)建議,因?yàn)樽罱O(shè)計(jì)個(gè)DAC輸出調(diào)節(jié)運(yùn)放輸出,希望能有個(gè)參考。 如果外接跟隨的話,用LM358可以嗎?請(qǐng)一起討論下!?。?/div>
    發(fā)表于 05-15 07:42

    共模電感選型依據(jù)究竟有哪些

    電子發(fā)燒友網(wǎng)站提供《共模電感選型依據(jù)究竟有哪些.docx》資料免費(fèi)下載
    發(fā)表于 05-06 10:26 ?1次下載

    SMT貼片加工中元器件移位的原因究竟有哪些?

    ,元器件移位的問題仍然時(shí)有發(fā)生。那么,造成SMT貼片加工中元器件移位的原因究竟有哪些呢?接下來深圳佳金源錫膏廠家來講一下:首先,貼片機(jī)吸嘴的氣壓是影響元器件位置的重要
    的頭像 發(fā)表于 04-26 16:00 ?488次閱讀
    SMT貼片加工中元器件移位的原因<b class='flag-5'>究竟有</b>哪些?

    信創(chuàng)測(cè)試究竟是什么?與性能測(cè)試的差別是什么?

    信創(chuàng)測(cè)試性能測(cè)試在多個(gè)方面存在顯著的區(qū)別。 首先,信創(chuàng)測(cè)試是一個(gè)更為全面和系統(tǒng)的測(cè)試過程,它主要針對(duì)信創(chuàng)工程項(xiàng)目中的產(chǎn)品、系統(tǒng)等進(jìn)行
    的頭像 發(fā)表于 04-24 15:34 ?720次閱讀

    貼片功率電感究竟有沒有正負(fù)極之分

    電子發(fā)燒友網(wǎng)站提供《貼片功率電感究竟有沒有正負(fù)極之分.docx》資料免費(fèi)下載
    發(fā)表于 02-28 10:15 ?0次下載

    pcb應(yīng)變測(cè)試多重要?一文了解!

    pcb應(yīng)變測(cè)試多重要?一文了解!
    的頭像 發(fā)表于 02-24 16:26 ?1001次閱讀

    什么是DMA?DMA究竟有多快!

    助于提高數(shù)據(jù)傳輸速度和系統(tǒng)效率。 那么,DMA究竟有多快呢? 實(shí)踐出真知 恰好,最近有個(gè)多通道數(shù)據(jù)采集的項(xiàng)目,受限于通道數(shù)多、分辨率高,而系統(tǒng)帶寬有限,為了盡可能充分利用有限帶寬,就得想辦法優(yōu)化時(shí)序,把時(shí)間都留給數(shù)據(jù)采集和傳輸。 優(yōu)化方向就是DMA。 硬件鏈路是A
    的頭像 發(fā)表于 02-22 10:43 ?1657次閱讀
    什么是DMA?DMA<b class='flag-5'>究竟有</b>多快!

    AI視頻年大爆發(fā)!2023年AI視頻生成領(lǐng)域的現(xiàn)狀全盤點(diǎn)

    2023年,也是AI視頻元年。過去一年究竟有哪些爆款應(yīng)用誕生,未來視頻生成領(lǐng)域面臨的難題還有哪些?
    的頭像 發(fā)表于 02-20 10:40 ?1101次閱讀
    <b class='flag-5'>AI</b>視頻年大爆發(fā)!2023年<b class='flag-5'>AI</b>視頻生成領(lǐng)域的現(xiàn)狀全盤點(diǎn)

    普通硅二極管與肖特基二極管,究竟有何異同?

    普通硅二極管與肖特基二極管,究竟有何異同?
    的頭像 發(fā)表于 12-07 09:33 ?575次閱讀
    普通硅二極管與肖特基二極管,<b class='flag-5'>究竟有</b>何異同?

    電池檢驗(yàn)究竟有多重

    現(xiàn)代社會(huì)越來越依賴電子設(shè)備,從個(gè)人手機(jī)到動(dòng)力汽車,很多的產(chǎn)品設(shè)備遍布我們的日常生活,而這些設(shè)備又必須依賴電池來運(yùn)行。所以電池的安全性能顯得尤為重要,電池安全的檢測(cè)也是必不可少的。尤其對(duì)于動(dòng)力汽車而言,電池不僅僅關(guān)乎著消費(fèi)者們的安全,同時(shí)也是企業(yè)是否能夠進(jìn)入高端行業(yè)的關(guān)鍵。
    的頭像 發(fā)表于 12-04 11:58 ?569次閱讀

    AD8231諧波畸變性能究竟在怎樣一個(gè)指標(biāo)呢?

    沒有給諧波畸變相關(guān)指標(biāo),不知道是設(shè)計(jì)問題還是芯片本身問題,AD8231諧波畸變性能究竟在怎樣一個(gè)指標(biāo)呢?
    發(fā)表于 11-23 08:04