9月3日至4日,2024開(kāi)放數(shù)據(jù)中心大會(huì)(以下簡(jiǎn)稱“ODCC”)在北京召開(kāi)。江波龍企業(yè)級(jí)存儲(chǔ)事業(yè)部市場(chǎng)總監(jiān)曹潯峰受邀出席,并發(fā)表了題為《大模型AI應(yīng)用對(duì)存力挑戰(zhàn)與創(chuàng)新實(shí)踐》的精彩演講,深入剖析了當(dāng)前算力產(chǎn)業(yè)的發(fā)展趨勢(shì)及其創(chuàng)新應(yīng)用,并探討了在PTM(存儲(chǔ)產(chǎn)品技術(shù)制造)商業(yè)模式下如何有效滿足客戶需求的問(wèn)題。
ODCC 2024
PTM商業(yè)模式
企業(yè)級(jí)存儲(chǔ)全棧定制
PTM商業(yè)模式
PTM商業(yè)模式的核心在于將公司的自研存儲(chǔ)控制芯片、自研固件和硬件以及自有的先進(jìn)封測(cè)制造等技術(shù)優(yōu)勢(shì)進(jìn)行無(wú)縫銜接,實(shí)現(xiàn)更靈活、高效的全棧式定制化服務(wù)和一站式交付。
存儲(chǔ)全棧式定制服務(wù)就像高級(jí)西裝的量身定制,每一細(xì)節(jié)都經(jīng)過(guò)一對(duì)一精心打造,確保每款產(chǎn)品方案“裁剪”出來(lái)都能貼合、匹配客戶的獨(dú)特需求。在提及江波龍最新提出的PTM商業(yè)模式時(shí),曹潯峰表示,企業(yè)級(jí)存儲(chǔ)產(chǎn)品作為該模式下的重要組成部分,江波龍已經(jīng)成功打造了eSSD+RDIMM的全面產(chǎn)品矩陣,以滿足大模型AI應(yīng)用的存力需求。這包括一系列高性能的企業(yè)級(jí)PCIe 4.0 NVMe SSD、SATA SSD、DDR5/DDR4 RDIMM以及CXL 2.0內(nèi)存拓展模塊等標(biāo)準(zhǔn)產(chǎn)品。
在技術(shù)領(lǐng)域,江波龍擁有自主研發(fā)NAND Flash芯片、主控芯片、固件和硬件的能力,并采用多顆粒類型產(chǎn)品布局,能夠根據(jù)客戶的特定技術(shù)需求提供定制化的存儲(chǔ)解決方案。此外,江波龍匯聚了眾多行業(yè)資深專家,積累了豐富的技術(shù)經(jīng)驗(yàn),特別是在顆粒研究、測(cè)試算法和設(shè)備開(kāi)發(fā)等方面,公司能夠深入分析NAND Flash和DRAM的特性,并與客戶預(yù)先確認(rèn)技術(shù)需求。通過(guò)建立專業(yè)、專項(xiàng)的FAE+AE+R&D團(tuán)隊(duì),PTM商業(yè)模式能夠幫助企業(yè)級(jí)客戶高效實(shí)現(xiàn)產(chǎn)品創(chuàng)新和大幅成本優(yōu)化,從而提升客戶的業(yè)務(wù)競(jìng)爭(zhēng)力。
在制造方面,江波龍通過(guò)在中山存儲(chǔ)產(chǎn)業(yè)園、蘇州和南美洲封裝測(cè)試基地的國(guó)內(nèi)、海外雙循環(huán)產(chǎn)業(yè)鏈布局,實(shí)現(xiàn)了從存儲(chǔ)芯片到模組產(chǎn)品的全鏈條覆蓋。公司不僅保證了業(yè)內(nèi)領(lǐng)先的企業(yè)級(jí)生產(chǎn)產(chǎn)能,還實(shí)現(xiàn)了高效的全站點(diǎn)追溯能力,如同餐廳的開(kāi)放式廚房,確保每道工序都可視化、透明化,讓客戶對(duì)產(chǎn)品品質(zhì)和生產(chǎn)流程擁有更為清晰而直觀的了解。
以SATA SSD標(biāo)準(zhǔn)產(chǎn)品為例,如果客戶對(duì)其基本性能感到滿意,但需要更大容量的解決方案,并且希望在不犧牲產(chǎn)品特性的前提下實(shí)現(xiàn)成本效益,那么PTM(存儲(chǔ)產(chǎn)品技術(shù)制造)合作模式將是理想選擇。江波龍固件開(kāi)發(fā)團(tuán)隊(duì)能夠?yàn)榭蛻?strong>量身定制固件,以支持大容量規(guī)格和Wafer顆粒的導(dǎo)入。同時(shí),封測(cè)制造基地也將按照具體要求進(jìn)行Wafer的封裝,確保滿足工藝規(guī)格和顆粒特性指標(biāo),為客戶提供個(gè)性化且高效的存儲(chǔ)解決方案。
通過(guò)綜合措施,PTM商業(yè)模式實(shí)現(xiàn)了從技術(shù)到制造,再到產(chǎn)品的全方位支持,為客戶提供全棧式服務(wù)和一站式交付。
AI存力挑戰(zhàn)
新技術(shù)探索實(shí)踐
曹潯峰在演講中強(qiáng)調(diào),隨著人工智能技術(shù)的飛速發(fā)展,AI訓(xùn)練過(guò)程中對(duì)緩存存儲(chǔ)容量和性能的需求日益增長(zhǎng)。他指出,盡管AI應(yīng)用日益復(fù)雜,但現(xiàn)有緩存硬件技術(shù)和產(chǎn)品的發(fā)展尚未跟上這一步伐,導(dǎo)致AI模型訓(xùn)練面臨性能瓶頸。對(duì)此,曹潯峰提出了一系列創(chuàng)新的解決方案,旨在突破數(shù)據(jù)緩存、傳輸和存儲(chǔ)的瓶頸。
在AI應(yīng)用實(shí)踐中,原始數(shù)據(jù)需經(jīng)過(guò)精細(xì)的清洗和預(yù)處理,轉(zhuǎn)化為高質(zhì)量的數(shù)據(jù)集,進(jìn)而通過(guò)網(wǎng)絡(luò)傳輸至AI服務(wù)器的本地SSD存儲(chǔ),并最終upload至GPU HBM緩存中進(jìn)行訓(xùn)練。曹潯峰指出,隨著AI訓(xùn)練模型參數(shù)量的增長(zhǎng),現(xiàn)有HBM緩存和系統(tǒng)內(nèi)存RDIMM容量已難以滿足需求。他提出,采用高性能、大容量的CXL存儲(chǔ)器或8x GPU卡AI服務(wù)器,將是理想的緩存優(yōu)化解決方案。
江波龍正積極探索支持AIC和E3.S的JBOM系統(tǒng),并結(jié)合即將到來(lái)的支持CXL2.0的服務(wù)器系統(tǒng),為萬(wàn)卡AI訓(xùn)練集群提供更具成本效益的內(nèi)存池化共享硬件解決方案。
曹潯峰還分享了對(duì)AI應(yīng)用數(shù)據(jù)存儲(chǔ)優(yōu)化的深刻見(jiàn)解。他提到,AI訓(xùn)練應(yīng)用主要涉及順序讀寫(xiě)操作,QLC SSD在順序讀寫(xiě)性能上與TLC相近,且成本更具優(yōu)勢(shì)。隨著PCIe Gen5帶寬的提升,QLC技術(shù)完全能夠滿足AI訓(xùn)練過(guò)程中Checkpoint數(shù)據(jù)存儲(chǔ)的高帶寬高并發(fā)需求,預(yù)示著QLC SSD有望成為大語(yǔ)言模型AI訓(xùn)練應(yīng)用的更優(yōu)選擇。
在演講的尾聲,曹潯峰展望了江波龍企業(yè)級(jí)存儲(chǔ)產(chǎn)品的未來(lái)發(fā)展方向,主要聚焦于擴(kuò)大存儲(chǔ)容量、提升產(chǎn)品性能、引入QLC NAND Flash作為資源補(bǔ)充的發(fā)展趨勢(shì),以滿足不同客戶的差異化需求,與產(chǎn)業(yè)鏈合作伙伴共同推動(dòng)算力產(chǎn)業(yè)進(jìn)步。
*上述產(chǎn)品數(shù)據(jù)均來(lái)源于江波龍內(nèi)部測(cè)試
實(shí)際性能因設(shè)備差異,可能有所不同
-
存儲(chǔ)
+關(guān)注
關(guān)注
13文章
4122瀏覽量
85271 -
AI
+關(guān)注
關(guān)注
87文章
28875瀏覽量
266194 -
大模型
+關(guān)注
關(guān)注
2文章
2134瀏覽量
1970
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論