0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

大促秒殺更順滑|憶聯(lián)攜手南大通用,提供數(shù)據(jù)密集型存儲新范式

UnionMemory憶聯(lián) ? 來源:未知 ? 2023-12-18 18:20 ? 次閱讀

雙十二的結(jié)束,意味著2023年的所有大促已落下帷幕。雙十一全網(wǎng)11386億元的銷售額背后是消費的狂歡,更是一場場數(shù)據(jù)洪峰,單天貓平臺在雙十一期間累計訪問用戶數(shù)就已超8億,數(shù)據(jù)訪問的壓力不言而喻。


面對瞬時流量高并發(fā)、海量數(shù)據(jù)查詢等應(yīng)用場景,固態(tài)硬盤憑借其高吞吐量、低時延等特征逐漸成為大數(shù)據(jù)時代下數(shù)據(jù)存儲的重要載體,是當(dāng)前本地部署的數(shù)據(jù)倉庫產(chǎn)品重要搭載硬件,可滿足電商大促場景下大規(guī)模數(shù)據(jù)的存儲和查詢需求。


為更好應(yīng)對含電商在內(nèi)的數(shù)據(jù)密集型行業(yè)對高性能、高可靠存儲的要求,憶聯(lián)特聯(lián)合國內(nèi)大數(shù)據(jù)倉儲的佼佼者——南大通用(下稱:GBase)共同探索大數(shù)據(jù)時代下數(shù)字化轉(zhuǎn)型存儲新方案。


一、GBase 8a MPP Cluster簡介

南大通用大規(guī)模分布式并行數(shù)據(jù)庫集群系統(tǒng)(簡稱GBase 8a MPP Cluster),是在GBase 8a系列存儲數(shù)據(jù)庫基礎(chǔ)上開發(fā)的一款Shared Nothing架構(gòu)的分布式并行數(shù)據(jù)庫集群,具備高性能、高可用、高擴(kuò)展等特性,可為各種規(guī)模數(shù)據(jù)管理提供高性價比的通用計算平臺,廣泛用于支撐各類數(shù)據(jù)倉庫系統(tǒng)、BI系統(tǒng)和決策支持系統(tǒng)。

圖1:GBase 8a MPP Cluster技術(shù)架構(gòu)圖


GBase 8a MPP Cluster采用MPP+Shared Nothing的分布式聯(lián)邦架構(gòu),節(jié)點間通過TCP/IP網(wǎng)絡(luò)進(jìn)行通信,每個節(jié)點采用本地磁盤來存儲數(shù)據(jù)。GBase 8a MPP Cluster系統(tǒng)中的每一個節(jié)點都是相對獨立的、自給的,整個系統(tǒng)具有非常強(qiáng)的擴(kuò)展性,可從幾個節(jié)點擴(kuò)展到上百節(jié)點,滿足業(yè)務(wù)規(guī)模增長的要求。


二、憶聯(lián)在GBase 8a MPP方案下的驗證


1

驗證環(huán)境

本次驗證硬件配置:

本次驗證軟件配置:

本次驗證組網(wǎng)規(guī)劃:

圖2:本次GBase 8a MPP組網(wǎng)規(guī)劃架構(gòu)圖


2

驗證方法

步驟1:將6塊SAS UM511a配置Raid5。

步驟2:創(chuàng)建數(shù)據(jù)庫和表使用TPC-H工具評估數(shù)據(jù)庫分析處理能力,需要提前創(chuàng)建數(shù)據(jù)庫和TPC-H內(nèi)置的8張表;使用TPC-DS工具評估數(shù)據(jù)庫分析處理能力,提前創(chuàng)建數(shù)據(jù)庫和TPC-DS內(nèi)置的25張表。

步驟3:參數(shù)調(diào)優(yōu)根據(jù)GBase建議進(jìn)行相關(guān)參數(shù)調(diào)優(yōu)。

步驟4:數(shù)據(jù)生成TCH-H通過dbgen工具可以通過設(shè)置參數(shù)生成所需的測試數(shù)據(jù),命令參數(shù)為/dbgen -C 10 -S 1 -s 3000 –vf;TPC-DS通過dsdgen工具可以通過設(shè)置參數(shù)生成所需的測試數(shù)據(jù),命令參數(shù)為./dsdgen -scale 3000 -dir testdata -force -parallel 10 -child 1。

步驟5:數(shù)據(jù)加載數(shù)據(jù)導(dǎo)入時,在GBASE集群本地節(jié)點搭建FTP服務(wù)器,通過FTP加載數(shù)據(jù)。當(dāng)一個表包含多個數(shù)據(jù)文件時,將單表的多個數(shù)據(jù)文件集成一個導(dǎo)入語句中,以單表為粒度分別加載測試數(shù)據(jù)至8張數(shù)據(jù)庫表中。

步驟6:SQL執(zhí)行獨立的客戶端,通過業(yè)務(wù)平面網(wǎng)絡(luò)與GBase集群通信,使用gccli工具執(zhí)行TPC-H 22個SQL用例,

參考命令如下:

/home/GBase/gccli_install/gcluster/server/bin/gccli -h 10.28.100.38 -uroot -Dtpch -vvv < query_1.sql。


3

驗證結(jié)果

本次在GBase 8a MPP場景下驗證結(jié)果如下:

①、憶聯(lián)SAS SSD在Raid邏輯卷帶寬性能測試下的表現(xiàn):

圖3:憶聯(lián)SAS盤在Raid邏輯卷帶寬性能測試下的表現(xiàn)


在本次測試中,將6個SAS SSD配置Raid5,12塊SATA配置Raid50,在Server主機(jī)使用FIO測試工具進(jìn)行128KB順序讀寫帶寬性能壓測。從圖3結(jié)果表現(xiàn)可知,SAS SSD讀寫帶寬更優(yōu),讀帶寬比SATA有19.6%左右提升,寫帶寬提升34%左右,展現(xiàn)了SAS SSD在Raid邏輯卷帶寬下的絕對優(yōu)勢,可為高并發(fā)的業(yè)務(wù)場景提供穩(wěn)定、順暢的數(shù)據(jù)服務(wù)體驗。


②、憶聯(lián)SAS SSD在單盤故障降級&重構(gòu)讀性能下的表現(xiàn):

圖4:憶聯(lián)SAS SSD在單盤故障降級&重構(gòu)讀性能下的表現(xiàn)


單盤降級讀性能是指RAID組在單盤故障或拔出情況下的RAID組邏輯卷讀業(yè)務(wù)性能,重構(gòu)性能是指單盤故障后,RAID同時進(jìn)行熱備盤數(shù)據(jù)重構(gòu)和業(yè)務(wù)下發(fā)時的業(yè)務(wù)側(cè)性能。本次通過將6塊憶聯(lián)SAS SSD配置Raid5后,在一塊SSD故障條件下進(jìn)行測試。


如圖4所示,不管是在單盤降級讀性能還是在重構(gòu)讀帶寬條件下,SAS盤的表現(xiàn)都優(yōu)于SATA,單盤降級讀性能優(yōu)于SATA 22.7%左右,重構(gòu)讀帶寬性能上比SATA最大有38.4%左右的提升,滿足在各種復(fù)雜場景下業(yè)務(wù)不中斷、數(shù)據(jù)不丟失的超高可用性要求。


③、憶聯(lián)SAS SSD在TPC-DS場景下的表現(xiàn):

圖5:TPC-DS場景下憶聯(lián)SAS SSD的表現(xiàn)


TPC-DS測試是通過FTP協(xié)議加載數(shù)據(jù)到GBase數(shù)據(jù)庫表。從圖5可見,在相同物理硬件環(huán)境下,SAS SSD不管是在數(shù)據(jù)導(dǎo)入還是在SQL用例執(zhí)行時間上所用時間都略低于SATA SSD,具備一定時間優(yōu)勢,通過降低系統(tǒng)延遲,提供更快的數(shù)據(jù)訪問速度來提升用戶體驗。


④、憶聯(lián)SAS SSD在TCP-H場景下的表現(xiàn)

圖6:TPC-H場景下憶聯(lián)SAS SSD的表現(xiàn)


TPC-H測試是通過FTP協(xié)議加載數(shù)據(jù)到GBase數(shù)據(jù)庫表。圖6展現(xiàn)了SAS SSD以及SATA SSD在TPC-H測試下的表現(xiàn),其中SAS SSD總用時略優(yōu)于SATA SSD,數(shù)據(jù)導(dǎo)入時間優(yōu)于SATA約6%,對SQL用例執(zhí)行時間上相比 SATA SSD降低了3%左右,可為業(yè)務(wù)系統(tǒng)提供快速、可靠的決策支持服務(wù)。


Union Memory


總結(jié):本次驗證充分體現(xiàn)了憶聯(lián)SAS SSD在GBase 8a MPP場景下的性能優(yōu)勢,可有效支持業(yè)務(wù)高效開展,具備單盤帶寬更高,盤故障重構(gòu)、降級性能更優(yōu)等特點,不僅可以幫助企業(yè)節(jié)約硬件采購成本,也可幫助互聯(lián)網(wǎng)數(shù)據(jù)中心、運營商解決海量數(shù)據(jù)下的大數(shù)據(jù)存儲和計算問題,高效處理海量結(jié)構(gòu)化數(shù)據(jù)。


憶聯(lián)深耕固態(tài)硬盤領(lǐng)域多年,已發(fā)布多款高性能、高可靠產(chǎn)品,具備應(yīng)對復(fù)雜的業(yè)務(wù)環(huán)境和數(shù)據(jù)庫挑戰(zhàn)的能力,可滿足行業(yè)用戶海量數(shù)據(jù)處理需求。未來,憶聯(lián)將持續(xù)聯(lián)合GBase共同打造數(shù)字化轉(zhuǎn)型背景下的存儲新方案。



相關(guān)閱讀推薦

國慶特輯|憶聯(lián)SSD通過極端壓力中子實驗,為數(shù)字中國建設(shè)提質(zhì)增速

多方位優(yōu)化!憶聯(lián)分布式數(shù)據(jù)庫存儲解決方案,助力MySQL實現(xiàn)高性能、低時延

憶聯(lián)SR-IOV解決方案:助力云數(shù)據(jù)中心節(jié)能提效,向“綠”而行


長按識別關(guān)注更多憶聯(lián)資訊


原文標(biāo)題:大促秒殺更順滑|憶聯(lián)攜手南大通用,提供數(shù)據(jù)密集型存儲新范式

文章出處:【微信公眾號:UnionMemory憶聯(lián)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 存儲
    +關(guān)注

    關(guān)注

    13

    文章

    4123

    瀏覽量

    85275
  • SSD
    SSD
    +關(guān)注

    關(guān)注

    20

    文章

    2791

    瀏覽量

    116649

原文標(biāo)題:大促秒殺更順滑|憶聯(lián)攜手南大通用,提供數(shù)據(jù)密集型存儲新范式

文章出處:【微信號:UnionMemory憶聯(lián),微信公眾號:UnionMemory憶聯(lián)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    人員定位系統(tǒng)對生產(chǎn)密集型企業(yè)的重要意義

    發(fā)電、供電、石油化工、鋼鐵冶金行業(yè)為生產(chǎn)設(shè)備密集型企業(yè),生產(chǎn)現(xiàn)場錯綜復(fù)雜,稍有不慎便會發(fā)生危險;建筑工地現(xiàn)場施工作業(yè)中,存在著人員流動性大、現(xiàn)場狀況雜亂、安全隱患難以察覺等問題;工廠安全管理混亂
    的頭像 發(fā)表于 09-10 17:30 ?120次閱讀
    人員定位系統(tǒng)對生產(chǎn)<b class='flag-5'>密集型</b>企業(yè)的重要意義

    廣和通端側(cè)AI解決方案驅(qū)動性能密集型場景商用場景商用

    2024世界機(jī)器人大會期間,廣和通宣布:基于高通QCS8550平臺的廣和通端側(cè)AI解決方案高效使能性能密集型場景。該端側(cè)AI解決方案整合強(qiáng)大AI算力、邊緣側(cè)AI數(shù)據(jù)分析及Wi-Fi 7連接方式,可為自主移動機(jī)器人、工業(yè)無人機(jī)、云服務(wù)器和AI邊緣計算盒子等物聯(lián)網(wǎng)應(yīng)用
    的頭像 發(fā)表于 08-23 16:06 ?167次閱讀

    廣和通端側(cè)AI解決方案驅(qū)動性能密集型場景商用場景商用

    2024世界機(jī)器人大會期間,廣和通宣布:基于高通QCS8550平臺的廣和通端側(cè)AI解決方案高效使能性能密集型場景。該端側(cè)AI解決方案整合強(qiáng)大AI算力、邊緣側(cè)AI數(shù)據(jù)分析及Wi-Fi 7連接方式,可為自主移動機(jī)器人、工業(yè)無人機(jī)、云服務(wù)器和AI邊緣計算盒子等物聯(lián)網(wǎng)應(yīng)用
    的頭像 發(fā)表于 08-23 16:05 ?506次閱讀
    廣和通端側(cè)AI解決方案驅(qū)動性能<b class='flag-5'>密集型</b>場景商用<b class='flag-5'>型</b>場景商用

    聯(lián)SSD存儲解決方案亮相2024中國國際金融展

    7月19日,為期三天的2024中國國際金融展(簡稱:金融展)在北京國家會議中心開幕。作為國內(nèi)領(lǐng)先的存儲解決方案提供商,聯(lián)攜其最新一代PCIe Gen5企業(yè)級SSD及全場景解決方案亮相
    的頭像 發(fā)表于 07-22 10:52 ?557次閱讀
    <b class='flag-5'>憶</b><b class='flag-5'>聯(lián)</b>SSD<b class='flag-5'>存儲</b>解決方案亮相2024中國國際金融展

    聯(lián)推出企業(yè)級SATA SSD UM311b,提供穩(wěn)定可靠的存儲服務(wù)

    在當(dāng)今數(shù)字化快速發(fā)展的時代,企業(yè)級高可靠業(yè)務(wù)場景對于數(shù)據(jù)存儲的需求日益增強(qiáng)。為了滿足這一需求,聯(lián)科技近日正式推出了一款高性能、高可靠、高性價比的企業(yè)級SATA SSD——UM311b
    的頭像 發(fā)表于 06-29 11:09 ?650次閱讀

    鴻蒙OS開發(fā)實例:【ArkTS類庫多線程CPU密集型任務(wù)TaskPool】

    CPU密集型任務(wù)是指需要占用系統(tǒng)資源處理大量計算能力的任務(wù),需要長時間運行,這段時間會阻塞線程其它事件的處理,不適宜放在主線程進(jìn)行。例如圖像處理、視頻編碼、數(shù)據(jù)分析等。 基于多線程并發(fā)機(jī)制處理CPU密集型任務(wù)可以提高CPU
    的頭像 發(fā)表于 04-01 22:25 ?647次閱讀
    鴻蒙OS開發(fā)實例:【ArkTS類庫多線程CPU<b class='flag-5'>密集型</b>任務(wù)TaskPool】

    鴻蒙OS開發(fā)實例:【ArkTS類庫多線程I/O密集型任務(wù)開發(fā)】

    使用異步并發(fā)可以解決單次I/O任務(wù)阻塞的問題,但是如果遇到I/O密集型任務(wù),同樣會阻塞線程中其它任務(wù)的執(zhí)行,這時需要使用多線程并發(fā)能力來進(jìn)行解決。 I/O密集型任務(wù)的性能重點通常不在于CPU
    的頭像 發(fā)表于 04-01 16:32 ?326次閱讀
    鴻蒙OS開發(fā)實例:【ArkTS類庫多線程I/O<b class='flag-5'>密集型</b>任務(wù)開發(fā)】

    博泰“車聯(lián)網(wǎng)云服務(wù)平臺”入選2023年度專利密集型產(chǎn)品名單

    近日,中國專利保護(hù)協(xié)會首次組織開展了專利密集型產(chǎn)品認(rèn)定工作,并于近期發(fā)布2023年專利密集型產(chǎn)品名單,博泰的“車聯(lián)網(wǎng)云服務(wù)平臺”入選2023年度專利密集型產(chǎn)品名單。
    的頭像 發(fā)表于 03-29 10:23 ?316次閱讀
    博泰“車聯(lián)網(wǎng)云服務(wù)平臺”入選2023年度專利<b class='flag-5'>密集型</b>產(chǎn)品名單

    鴻蒙原生應(yīng)用開發(fā)-ArkTS語言基礎(chǔ)類庫多線程I/O密集型任務(wù)開發(fā)

    使用異步并發(fā)可以解決單次I/O任務(wù)阻塞的問題,但是如果遇到I/O密集型任務(wù),同樣會阻塞線程中其它任務(wù)的執(zhí)行,這時需要使用多線程并發(fā)能力來進(jìn)行解決。 I/O密集型任務(wù)的性能重點通常不在于CPU的處理
    發(fā)表于 03-21 14:57

    鴻蒙原生應(yīng)用開發(fā)-ArkTS語言基礎(chǔ)類庫多線程CPU密集型任務(wù)TaskPool

    CPU密集型任務(wù)是指需要占用系統(tǒng)資源處理大量計算能力的任務(wù),需要長時間運行,這段時間會阻塞線程其它事件的處理,不適宜放在主線程進(jìn)行。例如圖像處理、視頻編碼、數(shù)據(jù)分析等。 基于多線程并發(fā)機(jī)制處理CPU
    發(fā)表于 03-19 14:14

    HarmonyOS CPU與I/O密集型任務(wù)開發(fā)指導(dǎo)

    一、CPU密集型任務(wù)開發(fā)指導(dǎo) CPU密集型任務(wù)是指需要占用系統(tǒng)資源處理大量計算能力的任務(wù),需要長時間運行,這段時間會阻塞線程其它事件的處理,不適宜放在主線程進(jìn)行。例如圖像處理、視頻編碼、數(shù)據(jù)分析等
    的頭像 發(fā)表于 02-18 10:17 ?856次閱讀
    HarmonyOS CPU與I/O<b class='flag-5'>密集型</b>任務(wù)開發(fā)指導(dǎo)

    聯(lián)攜手新華三推出高性能存儲方案

    為助力企業(yè)用戶構(gòu)建超融合架構(gòu)的現(xiàn)代化數(shù)據(jù)中心,滿足業(yè)務(wù)發(fā)展需求,聯(lián)聯(lián)合新華三集團(tuán)在超融合架構(gòu)下打造高性能存儲方案,以此提高數(shù)據(jù)中心的管理效
    的頭像 發(fā)表于 12-27 18:21 ?874次閱讀
    <b class='flag-5'>憶</b><b class='flag-5'>聯(lián)</b><b class='flag-5'>攜手</b>新華三推出高性能<b class='flag-5'>存儲</b>方案

    達(dá)6000條測試用例!聯(lián)消費級存儲實驗室向業(yè)界標(biāo)桿看齊

    用戶數(shù)據(jù)安全,為終端用戶打造極致的數(shù)據(jù)存儲體驗。聯(lián)消費級存儲實驗室面積約1000平方米,配備筆
    的頭像 發(fā)表于 12-25 11:20 ?394次閱讀
    達(dá)6000條測試用例!<b class='flag-5'>憶</b><b class='flag-5'>聯(lián)</b>消費級<b class='flag-5'>存儲</b>實驗室向業(yè)界標(biāo)桿看齊

    秒殺順滑聯(lián)攜手大通用,提供數(shù)據(jù)密集型存儲范式

    雙十二的結(jié)束,意味著2023年的所有大已落下帷幕。雙十一全網(wǎng)11386億元的銷售額背后是消費的狂歡,更是一場場數(shù)據(jù)洪峰,單天貓平臺在雙十一期間累計訪問用戶數(shù)就已超8億,數(shù)據(jù)訪問的壓力不言而喻。面對
    的頭像 發(fā)表于 12-18 16:49 ?392次閱讀
    大<b class='flag-5'>促</b><b class='flag-5'>秒殺</b><b class='flag-5'>更</b><b class='flag-5'>順滑</b>|<b class='flag-5'>憶</b><b class='flag-5'>聯(lián)</b><b class='flag-5'>攜手</b><b class='flag-5'>南</b><b class='flag-5'>大通用</b>,<b class='flag-5'>提供</b><b class='flag-5'>數(shù)據(jù)</b><b class='flag-5'>密集型</b><b class='flag-5'>存儲</b>新<b class='flag-5'>范式</b>

    HarmonyOS CPU與I/O密集型任務(wù)開發(fā)指導(dǎo)

    一、CPU密集型任務(wù)開發(fā)指導(dǎo) CPU密集型任務(wù)是指需要占用系統(tǒng)資源處理大量計算能力的任務(wù),需要長時間運行,這段時間會阻塞線程其它事件的處理,不適宜放在主線程進(jìn)行。例如圖像處理、視頻編碼、數(shù)據(jù)分析等
    發(fā)表于 09-26 16:29