0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

AI算力與能耗兼具,Supermicro梁見后暢談服務器的綠色計算

21克888 ? 來源:電子發(fā)燒友網(wǎng) ? 作者:黃晶晶 ? 2023-05-31 18:30 ? 次閱讀

隨著生成式AI人工智能席卷全球,服務器市場將作為產(chǎn)業(yè)先鋒迎來巨大的發(fā)展機會。在日前舉辦的臺北電腦展上,Supermicro總裁兼首席執(zhí)行官梁見后(Charles Liang)接受電子發(fā)燒友網(wǎng)等媒體采訪時表示,Supermicro為云端、AI/ML、存儲和5G/智能邊緣應用的全方位IT解決方案,我們正在推進關鍵領域的技術發(fā)展,包括產(chǎn)品設計、綠色計算、制造和機架級集成,以助力企業(yè)及組織快速提高生產(chǎn)效率并降低能耗。

多款服務器產(chǎn)品助力人工智能


Supermicro擁有最全面的產(chǎn)品組合,可以為人工智能工作負載和其他垂直領域提供大力支持。其創(chuàng)新型系統(tǒng)包括基于第四代Intel Xeon可擴展處理器和第四代AMD EPYC 處理器的單插槽和雙插槽機架安裝系統(tǒng),提供1U、2U、4U、5U和8U規(guī)格,并支持1到10 GPU。此外還包括在8U機箱中支持20個NVIDIA H100 GPU的密度優(yōu)化型SuperBlade系統(tǒng),以及專門針對物聯(lián)網(wǎng)和邊緣環(huán)境設計的SuperEdge系統(tǒng)。全新發(fā)布的E3.S Petascale存儲系統(tǒng)在利用超大規(guī)模的人工智能數(shù)據(jù)集進行訓練時,表現(xiàn)出了卓越的性能、容量、吞吐量和耐用性,同時還提供出色的能效。


基于NVIDIA Grace CPU超級芯片的新產(chǎn)品系列也將很快上市。這些新服務器均包含144個核心,雙CPU及900 GB/s 一致性接口,可運行高響應度的人工智能應用程序和需要極低延遲響應的應用程序。此外,CPU以500W TDP的速度運行,該系統(tǒng)將為云原生工作負載和下一代人工智能應用降低能耗。

三大優(yōu)勢穩(wěn)固服務器的綠色高效交付


在采訪中當問及Supermicro擁有超越行業(yè)標準的亮眼成績,取得巨大成功的原因,以及抓住了哪些機會等話題時,梁見后談到了成功的三點因素。

一是,模塊化解決方案為高效服務客戶提供了巨大的助力,它能夠更快地把產(chǎn)品交付給客戶,減少等候時間,提高服務效率。模塊化的解決方案一直都是我們非常重要的成功驅動因素。

其二,綠色計算。從18年前,Supermicro就開始布局綠色計算解決方案,幫助客戶進一步減少自己的電力成本以及能源消耗。當前,通過Supermicro的解決方案,數(shù)據(jù)中心的電力消耗可以降低達30%,讓整體成本獲得大幅下降。

他表示綠色計算已經(jīng)成為SupermicroDNA的一部分?!安还苁俏覀兯械漠a(chǎn)品設計還是電路等等,都會去優(yōu)化它的能源消耗,提高它的能耗效率,可以極大幫助我們的系統(tǒng)節(jié)省5-10%的能源消耗。而在熱管理子系統(tǒng)當中,我們也以最優(yōu)化的設計讓冷卻設計本身就具備更低的排熱和散熱的需求,以及采用了很多新的材料來降低散熱的能耗需求。我們將會延續(xù)我們的綠色計算DNA,做好這些散熱優(yōu)化,以幫助我們的客戶降低碳足跡和碳排放。”他說道。

目前,數(shù)據(jù)中心消耗的電力占到了全球電力需求的1-1.5%,因此綠色計算對于數(shù)據(jù)中心至關重要。Supermicro完整的機架級液冷解決方案可以大幅降低對傳統(tǒng)冷卻方法的需求。通過冗余和熱插拔電源和泵,機架上的所有高性能AI和HPC優(yōu)化服務器都能夠得到有效冷卻,不懼電源或泵發(fā)生任何故障。該解決方案還為CPU和GPU量身定制了冷板(Cold Plate),相較于傳統(tǒng)設計能夠更有效地去除熱量。如果數(shù)據(jù)中心利用Supermicro技術將其PUE降低至近1.0,不僅能節(jié)省高達100億美元的能源成本,并且相當于減少建造30座化石燃料發(fā)電廠。

第三是機架級整體解決方案,有效減少客戶的等候時間。此前客戶需要自身進行整合,現(xiàn)在得益于Supermicro的全機架級完整解決方案,客戶能夠即插即用,幫助客戶實現(xiàn)快速啟動,更好地實現(xiàn)業(yè)務的發(fā)展。

梁見后說,像ChatGPT以及其他很多的AI應用場景下,我們能夠加速交付周期,這是非常關鍵的一點。傳統(tǒng)的交付周期,可能客戶需要花3個月/6 個月才能完成他們的部署,但是現(xiàn)在有了我們的系統(tǒng)級/機架級的液冷解決方案,所需要的交付周期短至2周。我們的Delta-Next支持正常的液冷/空氣冷卻,同時客戶一旦收到就能夠實現(xiàn)即插即用,很多客戶都非常青睞這一技術。

他透露,Supermicro在不斷地增強投資,現(xiàn)在已經(jīng)可以每個月交付4000套機架級的解決方案。到今年年末,出貨量將會增加到5000套機架級的解決方案。

推動液冷應用,看好下半年至明年的強勁增長


梁見后表示,液冷其實并不是一個新鮮的東西,存在已經(jīng)超過 30 多年了,但由于面臨成本挑戰(zhàn),一直沒有成為主流。而Supermicro會大力推廣液冷,一旦液冷方案在降低成本之后會帶來大規(guī)模應用。Supermicro的Building Block解決方案就能夠很好應用液體冷卻技術。“我們相信隨著技術的進步,更多的客戶會選擇液冷,為此我們也在積極擴張產(chǎn)能服務客戶。”

即便由于整體經(jīng)濟的增速減緩,服務器應用端市場可能會稍微放緩,不過梁見后認為通過對客戶訂單需求的預測來看,今年下半年包括明年都將繼續(xù)保持強勁的增長。為此Supermicro主要考量如何去更好地滿足增長的客戶需求。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 服務器
    +關注

    關注

    12

    文章

    8701

    瀏覽量

    84546
  • AI
    AI
    +關注

    關注

    87

    文章

    28877

    瀏覽量

    266225
  • Supermicro
    +關注

    關注

    0

    文章

    26

    瀏覽量

    9246
收藏 人收藏

    評論

    相關推薦

    什么是AI服務器AI服務器的優(yōu)勢是什么?

    AI服務器是一種專門為人工智能應用設計的服務器,它采用異構形式的硬件架構,通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來滿足高吞吐量互聯(lián)的需求,為自然語言處理、計算
    的頭像 發(fā)表于 09-21 11:43 ?64次閱讀

    服務器為什么選擇GPU

    隨著人工智能技術的快速普及,需求日益增長。智中心的服務器作為支撐大規(guī)模數(shù)據(jù)處理和計算的核心設備,其性能優(yōu)化顯得尤為關鍵。而GPU
    的頭像 發(fā)表于 07-25 08:28 ?276次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>為什么選擇GPU

    ai服務器是什么架構類型

    AI服務器,即人工智能服務器,是專門為人工智能應用設計的高性能計算服務器。AI
    的頭像 發(fā)表于 07-02 09:51 ?578次閱讀

    AI服務器散熱,需要用到哪些導熱界面材料?

    在數(shù)字經(jīng)濟、AI大模型等發(fā)展的帶動下,全球服務器的市場需求急劇提升,利用其強大的計算能力,能夠處理復雜的算法和海量數(shù)據(jù)。與此同時,生成式人工智能的大
    的頭像 發(fā)表于 05-30 10:44 ?329次閱讀
    <b class='flag-5'>AI</b>高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>散熱,需要用到哪些導熱界面材料?

    引領柔性新風潮,加速企業(yè)數(shù)智轉型首選服務器就是它

    在當今云計算時代,企業(yè)對于云服務器的需求已經(jīng)不僅僅停留在簡單的彈性上,更多的是希望能夠根據(jù)自身業(yè)務需求,獲得精準、靈活的計算資源,以實現(xiàn)
    的頭像 發(fā)表于 05-22 19:35 ?239次閱讀
    引領柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>新風潮,加速企業(yè)數(shù)智轉型首選<b class='flag-5'>服務器</b>就是它

    智能存在缺口,AI服務器市場規(guī)模持續(xù)提升

    商的資本支出將大幅增加。全球前四大云服務商資本支出調(diào)升,預計將從2023年的1400億美元提升至2024年的超過2000億美元。 ? AI 服務器市場規(guī)模持續(xù)增長 ? 近些年,人工智能技術在各個領域廣泛應用,包括智能制造、智慧醫(yī)
    的頭像 發(fā)表于 05-22 00:14 ?2829次閱讀

    解鎖未來,華為云耀云服務器 X 實例引領柔性新時代

    在數(shù)字化浪潮的推動下,云計算已經(jīng)成為企業(yè)發(fā)展的必然選擇,但傳統(tǒng)云服務器常常束縛了企業(yè)的發(fā)展步伐。云耀云服務器 X 實例的問世,標志著云計算邁向了全新的柔性
    的頭像 發(fā)表于 04-11 22:23 ?934次閱讀
    解鎖未來,華為云耀云<b class='flag-5'>服務器</b> X 實例引領柔性<b class='flag-5'>算</b><b class='flag-5'>力</b>新時代

    256Tops!CSA1-N8S1684X服務器

    (基于BM1684X的高服務器)高AI處理
    的頭像 發(fā)表于 03-23 08:02 ?1027次閱讀
    256Tops<b class='flag-5'>算</b><b class='flag-5'>力</b>!CSA1-N8S1684X<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服務器</b>

    聯(lián)想首臺搭載國產(chǎn)AI芯片服務器成功交付

    在聯(lián)想(全球)最大的智能計算設備研發(fā)和制造基地——聯(lián)寶科技,一場科技界的盛事吸引了業(yè)界的廣泛關注。這一天,中國領先的智能IT基礎設施提供商聯(lián)想成功交付了首臺可搭載國產(chǎn)AI芯片的聯(lián)想
    的頭像 發(fā)表于 03-20 09:42 ?570次閱讀

    Supermicro全新系統(tǒng)產(chǎn)品組合將前沿AI性能推向邊緣計算環(huán)境

    ,正在擴展其AI解決方案產(chǎn)品組合,讓客戶在公共空間、零售商店或工業(yè)基礎架構等邊緣位置能有效運用AI的強大性能。通過使用搭載NVIDIA GPU的Supermicro應用優(yōu)化服務器,可更
    的頭像 發(fā)表于 02-24 09:10 ?884次閱讀
    <b class='flag-5'>Supermicro</b>全新系統(tǒng)產(chǎn)品組合將前沿<b class='flag-5'>AI</b>性能推向邊緣<b class='flag-5'>計算</b>環(huán)境

    超微CEOAI浪潮推動公司快速發(fā)展,但也面臨AI芯片短缺問題

    這家坐落于加州圣何塞的企業(yè)專注于研發(fā)和制造高效能服務器——其中基于英偉達(NVIDIA)架構的服務器產(chǎn)品備受行業(yè)矚目。在訪談中指出,若
    的頭像 發(fā)表于 02-20 14:10 ?827次閱讀

    Supermicro推新AI存儲方案,助力AI和ML應用加速

    Supermicro首席執(zhí)行官先生高瞻遠矚地指出:針對AI和ML應用的加速處理,我們推薦配置以每機柜20 PB高速閃存為主,配備四個N
    的頭像 發(fā)表于 02-03 14:46 ?510次閱讀

    國產(chǎn)服務器主陣地有哪些?

    AI 、低功耗等對服務器芯片提出新的要求,英偉達 GH200 有望加速全球
    的頭像 發(fā)表于 01-29 11:29 ?900次閱讀
    國產(chǎn)<b class='flag-5'>服務器</b>主陣地有哪些?

    AI服務器簡介及晶振應用

    AI服務器,是一種專門用于處理人工智能相關任務的高性能計算機。它具備強大的計算能力和存儲能力,能夠快速處理大量的數(shù)據(jù)和復雜的算法。與傳統(tǒng)的計算
    的頭像 發(fā)表于 12-25 10:45 ?935次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>服務器</b>簡介及晶振應用

    弘信電子與AI服務器合資,助力國產(chǎn)芯片落地

    此外,弘信電子近期在AI業(yè)務上取得了突破性進展,這并非源自本土化的積累,而是依賴于團隊敏銳的戰(zhàn)略眼光和強烈的創(chuàng)新動力。此次投資是弘信電子在AI
    的頭像 發(fā)表于 12-25 09:30 ?645次閱讀