AI聊天機器人回答復雜問題十分迅速、智能手機能播放高清視頻不卡頓的核心,毋庸置疑是帶寬的不斷提高和數(shù)據(jù)中心的迅速崛起。市場對帶寬的需求仍在不斷增長,數(shù)據(jù)中心正在轉(zhuǎn)向分散式架構(gòu),并在加速器上運行工作負載。Compute Express Link(簡稱CXL)是這些創(chuàng)新背后的核心技術(shù)。CXL是一種具有緩存一致性的從CPU到設(shè)備的互聯(lián)技術(shù),為處理器、內(nèi)存擴展和AI加速器提供了強大的連接能力。
XConn創(chuàng)立于2020年,在實現(xiàn)下一代人工智能和高性能計算(HPC)應用方面表現(xiàn)突出,該公司的使命是通過高性能、高能效、可擴展且經(jīng)濟高效的互連解決方案,加快數(shù)據(jù)中心和HPC的人工智能計算速度。
最近,XConn公司宣布其XC50256 CXL 2.0數(shù)據(jù)交換芯片在FinFET工藝上實現(xiàn)了首次流片成功。這款CXL數(shù)據(jù)交換芯片專為數(shù)據(jù)中心和內(nèi)存池應用而設(shè)計,旨在實現(xiàn)最高吞吐量、最低延遲和最低功耗。這款創(chuàng)新型產(chǎn)品采用了新思科技的CXL 2.0控制器和PCIe 5.0 PHY IP。通過在復雜的數(shù)據(jù)交換芯片中內(nèi)置對PCIe的支持并實施CXL,XConn致力于為客戶提供一條更加順暢的CXL采用之路。那么,XConn這款業(yè)界首個CXL數(shù)據(jù)交換芯片是如何開發(fā)的?下文一起來探討一下。
數(shù)據(jù)中心架構(gòu)設(shè)計為何發(fā)生改變
PC和筆記本電腦過去經(jīng)常用于處理繁重的計算工作負載,但在如今這個AI驅(qū)動的數(shù)字世界中,數(shù)據(jù)中心成為了處理這些工作的主力設(shè)備。據(jù)statista預測,到2025年,全球數(shù)據(jù)生成量預計將達到180 ZB。對于管理者海量信息的數(shù)據(jù)中心而言,高帶寬和低延遲成了保持數(shù)字世界正常運轉(zhuǎn)的重要基石。
隨著數(shù)據(jù)需求的不斷增長,數(shù)據(jù)中心架構(gòu)正在發(fā)生變革。超大規(guī)模世界正朝著解耦的方向發(fā)展:將計算、存儲和網(wǎng)絡等同質(zhì)資源分別置于不同模塊中,并以光互連的方式進行連接,然后由中央智能單元負責確定并從每個模塊中提取所需的數(shù)據(jù)。這種架構(gòu)有利于充分釋放剩余資源,使其能夠用于處理其他工作負載。
得益于分散化趨勢,內(nèi)存池化成為可能,并且在數(shù)據(jù)中心內(nèi)發(fā)揮越來越重要的作用。傳統(tǒng)的數(shù)據(jù)中心架構(gòu)中,每個服務器都有自己獨立的內(nèi)存集合,運行在上面的任何應用程序只能訪問這些特定內(nèi)存,這限制了單個應用程序能使用的內(nèi)存量。
然而,如今的數(shù)據(jù)驅(qū)動型應用,如ChatGPT等大型語言模型(LLMs),對內(nèi)存的需求極為旺盛。不論為特定服務器分配內(nèi)存資源,這些大型應用總會不夠用并需要更多。因此,解決這一困境的最佳方式就是打破內(nèi)存壁壘,允許多臺服務器之間共享和集中內(nèi)存資源。
當運行在特定服務器上的任何程序都能根據(jù)應用需求訪問內(nèi)存池時,整體的內(nèi)存使用效率會大大提高。即使請求的內(nèi)存量很大,內(nèi)存池也有TB級容量,可以支持大型內(nèi)存應用。這樣,無論是大型語言模型還是其他數(shù)據(jù)密集型應用,都能獲得所需的內(nèi)存,從而充分發(fā)揮性能,實現(xiàn)高效的數(shù)據(jù)處理和分析。
在數(shù)據(jù)中心架構(gòu)中,加速器扮演著舉足輕重的角色。CXL技術(shù)提供了直達內(nèi)存的通道,讓加速器和處理器能夠訪問相同數(shù)據(jù)。這種方式不僅避免了數(shù)據(jù)在系統(tǒng)內(nèi)的冗余復制,還通過CXL的智能內(nèi)存管理,實現(xiàn)了內(nèi)存的動態(tài)分配和釋放。這意味著,當應用程序需要內(nèi)存時,CXL會及時提供所需資源;而當應用程序完成任務后,CXL會迅速回收這些內(nèi)存,以供其他應用使用。這種高效的內(nèi)存管理策略不僅降低了延遲,還減少了軟件開銷,使系統(tǒng)能夠更好地處理Multi-Die系統(tǒng)中的die-to-die通信。隨著Multi-Die系統(tǒng)在數(shù)據(jù)中心的應用日益廣泛,CXL技術(shù)的這一優(yōu)勢將變得更加重要和突出。
CXL標準憑借其緩存一致性和超低延遲,備受數(shù)據(jù)中心SoC開發(fā)者的青睞。該標準擁有卓越的計算卸載能力,與PCI Express兼容,釋放了無限的設(shè)計可能。此外,CXL標準還兼?zhèn)涞凸奶匦?,對于滿足現(xiàn)代數(shù)據(jù)中心的高能耗需求至關(guān)重要,據(jù)統(tǒng)計,數(shù)據(jù)中心的能源消耗量約占全球能源的1%??梢哉f,CXL標準不僅是技術(shù)的革新,更是未來數(shù)據(jù)中心節(jié)能減碳的重要推手。
超高帶寬CXL 2.0數(shù)據(jù)交換芯片
XConn的CXL 2.0數(shù)據(jù)交換芯片提供了比競爭對手高出兩倍的帶寬,并且能夠?qū)崟r或近實時做出響應。在設(shè)計數(shù)據(jù)交換芯片時,XConn深知讓來自不同廠商的不同設(shè)備能夠相互通信的關(guān)鍵在于其可靠性。對于數(shù)據(jù)中心的每個組件而言,可靠性、可用性和可服務性(RAS)都是不容忽視的關(guān)鍵屬性。
要想盡可能地減少互操作性問題,就離不開成熟可靠的IP。在IP方面,XConn選擇向新思科技尋求幫助,因為我們的CXL控制器和PHY應用非常廣泛,并獲得了眾多企業(yè)的高度認可。除了具有RAS功能的CXL 2.0控制器和PCIe 5.0 PHY IP,XConn還使用了用于CXL的新思科技驗證IP。XConn團隊與新思科技的多個工程團隊密切合作,在爭取將CXL數(shù)據(jù)交換芯片快速推向市場的過程中,得到了強有力的支持。
為了最小化互操作性問題,業(yè)界普遍采用經(jīng)驗證的IP。XConn選擇新思科技作為其IP供應商,因為我們的CXL控制器和PHY在行業(yè)中已經(jīng)得到了非常廣泛的應用,并得到了許多公司的驗證。除了具備RAS功能的CXL 2.0控制器和PCIe 5.0 PHY IP外,XConn還使用了用于CXL的新思科技驗證IP。
XConn團隊與新思科技的各個開發(fā)團隊緊密合作,在將CXL數(shù)據(jù)交換芯片推向市場的過程中得到了充分支持。他們憑借出色的技術(shù)實力和專業(yè)知識,成功打造了一款具備卓越性能和可靠性的CXL數(shù)據(jù)交換芯片,為數(shù)據(jù)中心的高效運行提供了有力保障。
開發(fā)基于CXL 3.0的下一代數(shù)據(jù)交換芯片
XConn正在研發(fā)基于CXL 3.0和PCIe 6.0的下一代數(shù)據(jù)交換芯片設(shè)計,這兩項技術(shù)將提供雙倍帶寬并降低延遲。XConn未來還將繼續(xù)與新思科技合作,并將新思科技的CXL 3.0和PCIe 6.0 IP用于其新設(shè)計。
隨著數(shù)據(jù)量和數(shù)據(jù)中心需求的迅速增長,CXL標準將在數(shù)據(jù)中心的發(fā)展中發(fā)揮越來越重要的作用。XConn的CXL數(shù)據(jù)交換芯片是CXL生態(tài)系統(tǒng)中的關(guān)鍵元素,助力打造HPC和AI應用的美好未來。
-
處理器
+關(guān)注
關(guān)注
68文章
19100瀏覽量
228814 -
智能手機
+關(guān)注
關(guān)注
66文章
18412瀏覽量
179693 -
新思科技
+關(guān)注
關(guān)注
5文章
783瀏覽量
50288 -
HPC
+關(guān)注
關(guān)注
0文章
309瀏覽量
23650 -
AI加速器
+關(guān)注
關(guān)注
1文章
67瀏覽量
8625
原文標題:新思科技助力業(yè)界首個CXL 2.0數(shù)據(jù)交換芯片首次流片即成功
文章出處:【微信號:Synopsys_CN,微信公眾號:新思科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論