0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

智算中心加速布局,上游計算、存儲、互聯(lián)都涉及哪些芯片技術(shù)

Carol Li ? 來源:電子發(fā)燒友 ? 作者:李彎彎 ? 2024-07-24 01:13 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/李彎彎)智算中心是承載人工智能計算需求的基礎(chǔ)設(shè)施,專門用于處理AI算法和模型所需的大量計算任務(wù)。與傳統(tǒng)的數(shù)據(jù)中心和超算中心不同,智算中心更側(cè)重于AI算力的提供,以滿足日益增長的人工智能應(yīng)用需求。

近期,中國各地紛紛加快數(shù)字基建項目的建設(shè)步伐,智算中心成為布局重點。從北京到四川,從寧夏到河南,多地智算中心項目相繼開工或投入使用。國家統(tǒng)計局最新數(shù)據(jù)顯示,我國算力基礎(chǔ)設(shè)施建設(shè)已達到世界領(lǐng)先水平,智能算力規(guī)模占比提升至逾30%。

智算中心技術(shù)架構(gòu)

智算中心的技術(shù)架構(gòu)通常包含多個層次,從底層的硬件基礎(chǔ)設(shè)施到上層的軟件平臺和算法服務(wù),形成了一個完整的計算生態(tài)系統(tǒng)。

硬件基礎(chǔ)設(shè)施層主要包括計算設(shè)備、存儲系統(tǒng)和網(wǎng)絡(luò)設(shè)施。計算設(shè)備包括高性能服務(wù)器、計算節(jié)點、GPU加速卡等,提供強大的計算能力和并行處理能力。這些設(shè)備是智算中心的核心組成部分,能夠支持大規(guī)模數(shù)據(jù)處理和復(fù)雜的計算任務(wù)。

存儲系統(tǒng)包括高速硬盤陣列、分布式文件系統(tǒng)、對象存儲系統(tǒng)等,用于存儲和管理海量數(shù)據(jù)。這些系統(tǒng)提供了高可靠性、高吞吐量和快速訪問的存儲解決方案,確保數(shù)據(jù)的安全性和可用性。

網(wǎng)絡(luò)基礎(chǔ)設(shè)施包括高速以太網(wǎng)、光纖網(wǎng)絡(luò)、交換機、路由器等,支持數(shù)據(jù)傳輸和通信。這些設(shè)備提供了高帶寬和低延遲的網(wǎng)絡(luò)連接,以滿足大規(guī)模數(shù)據(jù)傳輸和分布式計算的需求。

軟件平臺層包括算法和人工智能技術(shù)、大數(shù)據(jù)處理平臺、AI使能軟件和開發(fā)框架、云平臺管理調(diào)度系統(tǒng)。算法和人工智能技術(shù):包括機器學(xué)習算法、神經(jīng)網(wǎng)絡(luò)、圖像處理和自然語言處理等,用于數(shù)據(jù)處理、機器學(xué)習、深度學(xué)習和模型訓(xùn)練等任務(wù)。這些算法和技術(shù)是智算中心實現(xiàn)智能計算的關(guān)鍵。

大數(shù)據(jù)處理平臺:如Hadoop、Spark等,提供分布式和并行計算的能力,能夠高效地處理大規(guī)模數(shù)據(jù)集。這些平臺為智算中心提供了強大的數(shù)據(jù)處理和分析能力。

AI使能軟件和開發(fā)框架:如CANN(華為昇騰AI計算架構(gòu))、MindSpore(華為全場景AI框架)等,為AI開發(fā)者提供便捷的開發(fā)環(huán)境和工具鏈,降低AI應(yīng)用的開發(fā)門檻和成本。

云平臺管理調(diào)度系統(tǒng):如ModelArts(華為云AI開發(fā)平臺)等,提供算力資源的統(tǒng)一管理和調(diào)度服務(wù),實現(xiàn)算力資源的靈活配置和高效利用。

智算中心涉及的芯片及企業(yè)

從計算層面來看,智算中心以人工智能計算任務(wù)為主,是AI算力的核心基礎(chǔ)設(shè)施。它采用專門的AI算力硬件,如GPU、NPU、TPU等,這些芯片擅長并行計算,能夠高效處理AI算法中的大量簡單矩陣運算任務(wù)。

智算服務(wù)器作為智算中心的主要算力硬件,通常采用“CPU+GPU”或“CPU+NPU”的異構(gòu)計算架構(gòu),以充分發(fā)揮不同算力芯片在性能、成本和能耗上的優(yōu)勢。

這種強大的算力驅(qū)動AI模型對數(shù)據(jù)進行深度加工,源源不斷產(chǎn)生各種智慧計算服務(wù),面向全行業(yè)領(lǐng)域提供基于深度學(xué)習技術(shù)的人工智能算法能力、算法框架和相關(guān)接口

華為、天數(shù)智芯、摩爾線程、中科曙光、燧原科技、英偉達英特爾、AMD等都推出有相關(guān)的芯片。如,華為推出了昇騰系列AI芯片昇騰910和昇騰310等,這些芯片專為AI訓(xùn)練和推理設(shè)計,具有高性能和低功耗的特點。昇騰系列已廣泛應(yīng)用于數(shù)據(jù)中心、云服務(wù)和邊緣計算等領(lǐng)域,為智算中心提供強大的算力支持。

英偉達推出了多款針對AI訓(xùn)練和推理的GPU產(chǎn)品,如A100、H100等。英特爾也推出了多款A(yù)I芯片產(chǎn)品,如Habana Labs的Gaudi系列芯片,旨在與英偉達競爭。AMD在AI芯片領(lǐng)域也有所布局,推出了MI系列GPU和APU產(chǎn)品。

從存儲方面來看,智算中心需要存儲海量的數(shù)據(jù),包括結(jié)構(gòu)化數(shù)據(jù)、非結(jié)構(gòu)化數(shù)據(jù)等。這些數(shù)據(jù)是AI算法訓(xùn)練和推理的基礎(chǔ)。因此,智算中心在存儲方面需要具備高容量、高可靠性、高可用性等特點。

存儲設(shè)備通常采用高性能的硬盤或固態(tài)硬盤,并配備冗余的存儲架構(gòu),以確保數(shù)據(jù)的安全性和可訪問性。一般而言,智算中心的主要算力硬件智算服務(wù)器,其DRAM容量和NAND容量通常是傳統(tǒng)服務(wù)器的數(shù)倍。三星、美光、SK海力士等都有相關(guān)芯片都廣泛應(yīng)用于數(shù)據(jù)中心、云計算等領(lǐng)域,為智算中心提供高性能的存儲解決方案。

網(wǎng)絡(luò)互聯(lián)方面,智算中心的設(shè)備互聯(lián)首先依賴于硬件基礎(chǔ)設(shè)施,包括高性能的交換機、路由器、無線產(chǎn)品等網(wǎng)絡(luò)設(shè)備,以及用于連接服務(wù)器、存儲設(shè)備等的光纖、網(wǎng)線等物理介質(zhì)。為了實現(xiàn)設(shè)備間的高效互聯(lián),智算中心通常采用高速互聯(lián)技術(shù),如InfiniBand、RoCE(RDMA over Converged Ethernet)等。這些技術(shù)能夠提供低延遲、高帶寬的數(shù)據(jù)傳輸能力,滿足AI算法對算力的需求。

在智算中心中,GPU是核心的計算單元。為了實現(xiàn)GPU之間的高效互聯(lián),通常采用NVLink等專用通信協(xié)議,以實現(xiàn)高速的P2P(點對點)互聯(lián)帶寬。NVLink是NVIDIA開發(fā)并推出的一種私有通信協(xié)議,它采用點對點結(jié)構(gòu)、串列傳輸,可以達到數(shù)百GB/s的P2P互聯(lián)帶寬。

寫在最后

智算中心作為智慧時代的基礎(chǔ)設(shè)施,將在未來社會經(jīng)濟發(fā)展中發(fā)揮越來越重要的作用。隨著技術(shù)的不斷進步和應(yīng)用場景的不斷拓展,智算中心將迎來更加廣闊的發(fā)展前景。而上游產(chǎn)業(yè)鏈為智算中心提供了必要的硬件和軟件支持。這些產(chǎn)業(yè)鏈參與者的共同努力和協(xié)作,推動了智算中心計算能力的不斷提升和發(fā)展。



聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 存儲
    +關(guān)注

    關(guān)注

    13

    文章

    4122

    瀏覽量

    85272
  • 計算
    +關(guān)注

    關(guān)注

    2

    文章

    437

    瀏覽量

    38604
  • 智算中心
    +關(guān)注

    關(guān)注

    0

    文章

    43

    瀏覽量

    1524
收藏 人收藏

    評論

    相關(guān)推薦

    【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    范圍內(nèi),對于推動科技進步、經(jīng)濟發(fā)展及社會整體的運作具有至關(guān)重要的作用。隨著信息技術(shù)的高速發(fā)展,高性能計算(HPC)和人工智能(AI)等技術(shù)在多個領(lǐng)域的應(yīng)用變得日益廣泛,芯片
    發(fā)表于 09-02 10:09

    【書籍評測活動NO.41】大模型時代的基礎(chǔ)架構(gòu):大模型中心建設(shè)指南

    章講解GPU板卡力調(diào)度技術(shù);第8章講解GPU虛擬化調(diào)度方案;第9章講解GPU集群的網(wǎng)絡(luò)虛擬化設(shè)計與實現(xiàn);第10章講解GPU集群的存儲設(shè)計與實現(xiàn);第11章講解如何基于云原生技術(shù)為機器學(xué)
    發(fā)表于 08-16 18:33

    如何理解云計算

    和硬件資源。 在數(shù)字化時代,互聯(lián)網(wǎng)已經(jīng)成為基礎(chǔ)設(shè)施。云計算使得數(shù)據(jù)中心能夠像一臺計算機一樣去工作。通過互聯(lián)網(wǎng)將
    發(fā)表于 08-16 17:02

    IaaS+on+DPU(IoD)+下一代高性能力底座技術(shù)白皮書

    數(shù)據(jù)中心的第三顆“主力芯片”,主要通過其專用處理器優(yōu)化數(shù)據(jù)中心的網(wǎng)絡(luò)、存儲、安全等處理性能,助力服務(wù)器運行效率顯著提升,有效降低成本。因此,在新型數(shù)據(jù)
    發(fā)表于 07-24 15:32

    壁仞科技為中國移動呼和浩特智中心提供強大

    中心提供強大力。該項目成功上線運營,標志著雙方在智能計算領(lǐng)域的深度合作邁出了堅實的步伐。 ? 中國移動智中心(呼和浩特)屬于全國型N節(jié)點
    的頭像 發(fā)表于 07-05 17:16 ?1068次閱讀

    云數(shù)據(jù)中心、智中心、超中心,有何區(qū)別?

    云數(shù)據(jù)中心、智中心和超中心是當前計算機領(lǐng)域中比較重要的研究方向,三者雖然
    的頭像 發(fā)表于 06-22 08:27 ?2974次閱讀
    云數(shù)據(jù)<b class='flag-5'>中心</b>、智<b class='flag-5'>算</b><b class='flag-5'>中心</b>、超<b class='flag-5'>算</b><b class='flag-5'>中心</b>,有何區(qū)別?

    “白地板”方案,智中心加速

    明德源能白地板方案,智中心加速
    的頭像 發(fā)表于 06-21 11:54 ?651次閱讀

    存內(nèi)計算WTM2101編譯工具鏈 資料

    存內(nèi)計算是突破物理極限的下一代技術(shù)- AIGC等人工智能新興產(chǎn)業(yè)的快速發(fā)展離不開力,力的基礎(chǔ)是人工智能
    發(fā)表于 05-16 16:33

    NVIDIA 通過 CUDA-Q 平臺為全球各地的量子計算中心提供加速

    德國、日本和波蘭的超級計算機利用 Grace-Hopper 和量子-經(jīng)典加速平臺推進量子計算研究 ? ? 德國漢堡 —— 國際超大會(
    發(fā)表于 05-13 15:21 ?154次閱讀
    NVIDIA 通過 CUDA-Q 平臺為全球各地的量子<b class='flag-5'>計算中心</b>提供<b class='flag-5'>加速</b>

    曙光攜手鄂爾多斯共建綠色智中心

    系統(tǒng)、人工智能加速計算系統(tǒng)、大數(shù)據(jù)存儲支撐系統(tǒng)、節(jié)點互聯(lián)網(wǎng)絡(luò)、基礎(chǔ)配套系統(tǒng)為核心,編織起一個強大的力網(wǎng)絡(luò),每一環(huán)節(jié)都是智慧與科技的結(jié)晶,為
    的頭像 發(fā)表于 05-09 09:59 ?600次閱讀

    有方數(shù)據(jù)存儲產(chǎn)品服務(wù)新疆移動智中心,推動數(shù)字生產(chǎn)力全面躍升

    近日,有方數(shù)據(jù)為新疆移動智中心項目建設(shè)提供了NeoVast 2300分布式海量存儲系統(tǒng)、NeoHyper 2500分布式全閃存存儲產(chǎn)品及服務(wù),保障智
    的頭像 發(fā)表于 04-28 14:10 ?437次閱讀

    中心:數(shù)字經(jīng)濟發(fā)展的新引擎

    、建設(shè)與發(fā)展,并分析其對數(shù)字經(jīng)濟發(fā)展的影響。01、中心的定義與概述中心是指具備高性能計算、大規(guī)模
    的頭像 發(fā)表于 04-13 08:27 ?1157次閱讀
    <b class='flag-5'>算</b>力<b class='flag-5'>中心</b>:數(shù)字經(jīng)濟發(fā)展的新引擎

    芯片:未來科技的加速器?

    在數(shù)字化時代,芯片作為電子設(shè)備的核心組件,其性能直接關(guān)系到設(shè)備的運行速度和處理能力。而芯片力,即其計算能力,更是衡量芯片性能的重要指標。
    的頭像 發(fā)表于 02-27 09:42 ?745次閱讀
    高<b class='flag-5'>算</b>力<b class='flag-5'>芯片</b>:未來科技的<b class='flag-5'>加速</b>器?

    SRAM存一體芯片的研究現(xiàn)狀和發(fā)展趨勢

    人工智能時代對計算芯片力和能效提出了極高要求。存一體芯片
    的頭像 發(fā)表于 01-02 11:02 ?2021次閱讀
    SRAM存<b class='flag-5'>算</b>一體<b class='flag-5'>芯片</b>的研究現(xiàn)狀和發(fā)展趨勢

    一文讀懂智中心網(wǎng)絡(luò)

    領(lǐng)域涉及較多的矩陣、向量的乘法和加法,專用性高,對力消耗大,不適合用通用CPU進行計算。智中心需要支持不同種類的
    的頭像 發(fā)表于 10-21 09:34 ?2872次閱讀
    一文讀懂智<b class='flag-5'>算</b><b class='flag-5'>中心</b>網(wǎng)絡(luò)