智慧時(shí)代,數(shù)據(jù)量激增且非結(jié)構(gòu)化數(shù)據(jù)的占比逐漸增大,數(shù)據(jù)類型愈發(fā)復(fù)雜,處理數(shù)據(jù)的方式更加多樣化,傳統(tǒng)單一存儲(chǔ)難以滿足市場(chǎng)需求?;诖耍顺蓖瞥隽朔墙Y(jié)構(gòu)化數(shù)據(jù)融合互通新平臺(tái)分布式融合存儲(chǔ)AS13000。
為什么需要多協(xié)議融合互通?
隨著云計(jì)算、大數(shù)據(jù)、AI技術(shù)的高速發(fā)展,數(shù)據(jù)的處理方式越來(lái)越多樣化,在自動(dòng)駕駛、天文觀測(cè)、基因測(cè)序等場(chǎng)景下,一次數(shù)據(jù)處理過(guò)程通常涉及文件、對(duì)象、大數(shù)據(jù)多種協(xié)議的數(shù)據(jù)存儲(chǔ)和訪問(wèn)方式。
S3/NFS觀測(cè)數(shù)據(jù)采集 | NFS數(shù)據(jù)分類、篩選、注釋 | HDFS對(duì)數(shù)據(jù)進(jìn)行大數(shù)據(jù)分析 | S3成果壓縮后保存 |
數(shù)據(jù)采集 | 數(shù)據(jù)預(yù)處理 | 數(shù)據(jù)分析 | 成果保存 |
---|
天文觀測(cè)數(shù)據(jù)處理流程
以天文觀測(cè)場(chǎng)景為例,一次完整的天文觀測(cè)數(shù)據(jù)處理涉及到數(shù)據(jù)采集、數(shù)據(jù)預(yù)處理、數(shù)據(jù)分析和成果保存四個(gè)步驟,不同階段使用了不同的訪問(wèn)協(xié)議。傳統(tǒng)分布式存儲(chǔ)僅支持單一協(xié)議訪問(wèn),即客戶需要同時(shí)部署多套存儲(chǔ)系統(tǒng),并且不同協(xié)議處理時(shí),需要進(jìn)行數(shù)據(jù)轉(zhuǎn)換和拷貝,造成存儲(chǔ)空間浪費(fèi)和存儲(chǔ)成本增加的同時(shí),極大程度降低數(shù)據(jù)的處理效率。
協(xié)議互通:高效、安全、便捷、低成本存儲(chǔ)
多協(xié)議融合互通既是時(shí)代產(chǎn)物,又是時(shí)代的成就者。浪潮分布式存儲(chǔ)AS13000基于對(duì)非結(jié)構(gòu)化數(shù)據(jù)協(xié)議(NFS/CIFS/HDFS/S3)的研究,通過(guò)持續(xù)技術(shù)創(chuàng)新和技術(shù)突破,打造出非結(jié)構(gòu)化數(shù)據(jù)融合互通存儲(chǔ)新平臺(tái),為用戶提供更高效、更安全、更便捷、更低成本的數(shù)據(jù)存儲(chǔ)服務(wù)。
非結(jié)構(gòu)化數(shù)據(jù)融合互通存儲(chǔ)架構(gòu)
7大技術(shù)突破,助力分布式存儲(chǔ)變革
其一,存儲(chǔ)資源融合互通,數(shù)據(jù)全局共享
AS13000分布式融合存儲(chǔ)平臺(tái)構(gòu)筑了全局統(tǒng)一存儲(chǔ)資源池,數(shù)據(jù)及元數(shù)據(jù)均統(tǒng)一管理,不同協(xié)議(NFS/CIFS/HDFS/S3)共享共用,且創(chuàng)建的文件、數(shù)據(jù)及元數(shù)據(jù)僅保存一份,有效減少數(shù)據(jù)重復(fù)存儲(chǔ)成本。
其二,多協(xié)議融合互通,數(shù)據(jù)零拷貝
根據(jù)傳統(tǒng)NFS、CIFS、HDFS和S3存儲(chǔ)協(xié)議的特點(diǎn),AS13000分布式融合存儲(chǔ)平臺(tái)設(shè)計(jì)出統(tǒng)一的存儲(chǔ)架構(gòu)。協(xié)議層無(wú)需數(shù)據(jù)轉(zhuǎn)換和拷貝、安裝網(wǎng)關(guān)或插件及在計(jì)算側(cè)或應(yīng)用層改造,即可直接原生語(yǔ)義無(wú)感接入,大大提升數(shù)據(jù)處理效率。
其三,原生語(yǔ)義支持,語(yǔ)義零損失
語(yǔ)義損失是導(dǎo)致傳統(tǒng)協(xié)議互通方案無(wú)法商用的主要原因。文件、HDFS和對(duì)象服務(wù)由于使用場(chǎng)景的差異,每種服務(wù)都有各自獨(dú)立的語(yǔ)義,如文件的快照、對(duì)象多段上傳及HDFS Ranger鑒權(quán)等。傳統(tǒng)協(xié)議互通方案由于存儲(chǔ)架構(gòu)和元數(shù)據(jù)管理不統(tǒng)一,無(wú)法實(shí)現(xiàn)各協(xié)議完整的語(yǔ)義支持,通常需要上層適配修改,造成語(yǔ)義損失。浪潮分布式融合存儲(chǔ)平臺(tái)AS13000在統(tǒng)一存儲(chǔ)架構(gòu)上實(shí)現(xiàn)多協(xié)議的統(tǒng)一元數(shù)據(jù)管理,支持各協(xié)議原生無(wú)損語(yǔ)義訪問(wèn)存儲(chǔ)系統(tǒng),應(yīng)用無(wú)感接入。
其四,權(quán)限互通,多協(xié)議權(quán)限聯(lián)動(dòng)
由于文件、對(duì)象、HDFS協(xié)議權(quán)限管理方式各不相同,傳統(tǒng)協(xié)議互通方案權(quán)限管理較為混亂,無(wú)法做到權(quán)限互通,給用戶訪問(wèn)帶來(lái)極大的不便和困擾。
AS13000針對(duì)Windows用戶、Unix用戶和對(duì)象用戶的不同訪問(wèn)形式及隔離限制,設(shè)計(jì)出用戶映射機(jī)制,實(shí)現(xiàn)不同類型用戶權(quán)限共享,打破不同類型用戶之間互相隔離的壁壘;提煉出統(tǒng)一的權(quán)限管理架構(gòu),統(tǒng)一管理非結(jié)構(gòu)化數(shù)據(jù)權(quán)限??梢宰龅揭环輸?shù)據(jù),一份權(quán)限信息,一種協(xié)議修改權(quán)限,對(duì)其它協(xié)議同時(shí)生效,真正做到了權(quán)限實(shí)時(shí)聯(lián)動(dòng)。
其五,冗余保護(hù),數(shù)據(jù)安全可靠
AS13000支持更全面的數(shù)據(jù)保護(hù)策略,提供跨節(jié)點(diǎn)、跨機(jī)架、不同級(jí)別的數(shù)據(jù)冗余保護(hù),用戶無(wú)需擔(dān)心宕機(jī)、掉電等意外故障帶來(lái)的數(shù)據(jù)丟失風(fēng)險(xiǎn)。同時(shí)支持?jǐn)?shù)據(jù)副本、糾刪冗余策略,能夠?qū)崿F(xiàn)數(shù)據(jù)及時(shí)快速恢復(fù),提高數(shù)據(jù)可靠性。
其六,數(shù)據(jù)分級(jí)存儲(chǔ),降低存儲(chǔ)成本
隨著數(shù)據(jù)的爆炸式增長(zhǎng),單一形式的存儲(chǔ)已經(jīng)無(wú)法滿足用戶高性能和低成本的需求。AS13000提供靈活的分級(jí)策略,將數(shù)據(jù)按照設(shè)定的策略和熱度分別存儲(chǔ)在高性能存儲(chǔ)介質(zhì)和相對(duì)低成本的存儲(chǔ)介質(zhì)中,合理利用存儲(chǔ)空間,降低存儲(chǔ)成本,快速響應(yīng)用戶的數(shù)據(jù)存儲(chǔ)需求。
最后,特性級(jí)互通,高效便捷
憑借統(tǒng)一的特性架構(gòu)和操作接口,實(shí)現(xiàn)特性級(jí)互通,對(duì)外提供統(tǒng)一的增值特性服務(wù),如統(tǒng)一配額、統(tǒng)一QoS、統(tǒng)一分級(jí)存儲(chǔ)、統(tǒng)一回收站、統(tǒng)一元數(shù)據(jù)檢索。設(shè)置后,對(duì)NFS、CIFS、S3、HDFS等多種協(xié)議即時(shí)同步生效。
浪潮分布式融合存儲(chǔ)平臺(tái)AS13000通過(guò)多年的持續(xù)技術(shù)創(chuàng)新,以一份數(shù)據(jù)支持多種協(xié)議訪問(wèn),實(shí)現(xiàn)了非結(jié)構(gòu)化數(shù)據(jù)融合互通,在提升數(shù)據(jù)處理效率的同時(shí)降低了存儲(chǔ)購(gòu)置和運(yùn)維成本,做到語(yǔ)義無(wú)損、數(shù)據(jù)零拷貝、權(quán)限聯(lián)動(dòng)、應(yīng)用無(wú)感接入。全面加持?jǐn)?shù)據(jù)保護(hù)策略,助力企業(yè)數(shù)字化轉(zhuǎn)型,加速釋放數(shù)據(jù)價(jià)值。
審核編輯:湯梓紅
-
云計(jì)算
+關(guān)注
關(guān)注
39文章
7702瀏覽量
137116 -
存儲(chǔ)
+關(guān)注
關(guān)注
13文章
4226瀏覽量
85580 -
數(shù)據(jù)采集
+關(guān)注
關(guān)注
38文章
5812瀏覽量
113428 -
浪潮
+關(guān)注
關(guān)注
1文章
450瀏覽量
23784 -
AI
+關(guān)注
關(guān)注
87文章
29815瀏覽量
268110
原文標(biāo)題:融合互通,浪潮分布式融合存儲(chǔ)AS13000加速海量數(shù)據(jù)處理
文章出處:【微信號(hào):inspurstorage,微信公眾號(hào):浪潮存儲(chǔ)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論