0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

為什么存儲(chǔ)系統(tǒng)的性能涉及到無數(shù)的IO環(huán)節(jié)?

lhl545545 ? 來源:H3C ? 作者:H3C ? 2020-08-29 09:29 ? 次閱讀

性能一直是存儲(chǔ)的核心話題,如果說可靠性是業(yè)務(wù)數(shù)據(jù)的生命線,那么性能就是業(yè)務(wù)加速發(fā)展的推進(jìn)器。

存儲(chǔ)系統(tǒng)的性能來自于軟件和硬件的配合,硬件體系包括CPU、內(nèi)存、網(wǎng)絡(luò)、硬盤,組網(wǎng)方式,軟件架構(gòu)等等,所有這些軟硬件協(xié)同作用的合力就表現(xiàn)為存儲(chǔ)系統(tǒng)對(duì)外提供的性能吞吐能力。

相比于傳統(tǒng)存儲(chǔ),分布式存儲(chǔ)的性能問題尤為棘手,涉及到多個(gè)節(jié)點(diǎn)之間的數(shù)據(jù)轉(zhuǎn)發(fā),IO路徑更長(zhǎng),因此對(duì)性能的影響點(diǎn)更多,更復(fù)雜。純軟件由于其硬件的多樣性,往往出現(xiàn)性能體驗(yàn)的波動(dòng)和不穩(wěn)定,在某些配置上得到的性能數(shù)據(jù),在最終用戶得到的硬件配置上卻不一定能達(dá)到。

面向場(chǎng)景 補(bǔ)齊影響性能的每塊短板

新華三集團(tuán)存儲(chǔ)產(chǎn)品線X10000產(chǎn)品首席架構(gòu)師陳釗介紹:“存儲(chǔ)系統(tǒng)的性能問題是個(gè)典型的木桶效應(yīng),再解決當(dāng)前短板之前,很難準(zhǔn)確預(yù)知下一個(gè)短板;或者是否存在比當(dāng)前發(fā)現(xiàn)的短板更短的短板。存儲(chǔ)性能優(yōu)化團(tuán)隊(duì)通過在整個(gè)存儲(chǔ)IO路徑協(xié)議棧上進(jìn)行細(xì)致的打點(diǎn)分析,逐個(gè)排查性能瓶頸點(diǎn),不斷突破性能極限。”

“同時(shí),我們深耕業(yè)務(wù)場(chǎng)景,比如廣電、運(yùn)營(yíng)商、HPC等,專項(xiàng)進(jìn)行性能優(yōu)化,從硬件驅(qū)動(dòng)到協(xié)議棧,一層一層分析系統(tǒng)瓶頸,逐項(xiàng)優(yōu)化。H3C UniStor X10000存儲(chǔ)一體機(jī)從用戶場(chǎng)景出發(fā),通過軟硬件的聯(lián)合調(diào)優(yōu),基于業(yè)務(wù)場(chǎng)景給出最佳的硬件典配,交付用戶有保障的存儲(chǔ)性能?!?/p>

除了針對(duì)各項(xiàng)場(chǎng)景應(yīng)用進(jìn)行定向優(yōu)化精細(xì)開發(fā),研發(fā)團(tuán)隊(duì)還介紹了X10000性能優(yōu)化過程中的一個(gè)小小的難點(diǎn)……

不走回頭路 用聰明的方法解決問題

原來,隨著新的特性功能不斷開發(fā),加載了新功能后的產(chǎn)品,很有可能出現(xiàn)性能的倒退。那么,要怎樣解決和避免這樣的問題呢?

負(fù)責(zé)自動(dòng)化性能看護(hù)系統(tǒng)的研發(fā)人員馮翔宇介紹,中央電視臺(tái)和中科大洋聯(lián)合poc測(cè)試是一次難忘的經(jīng)歷,當(dāng)時(shí),X10000存儲(chǔ)系統(tǒng)在用戶的測(cè)試環(huán)境中出現(xiàn)了性能回退。為了排查確切的引入問題源,測(cè)試團(tuán)隊(duì)重新對(duì)每一個(gè)列入問題單的性能影響因素進(jìn)行了測(cè)試評(píng)估,整個(gè)周期持續(xù)了一月有余。

同時(shí),針對(duì)新版本性能回退的主要矛盾,測(cè)試團(tuán)隊(duì)決定建立一套自動(dòng)化性能系統(tǒng)。通過自動(dòng)化CI集成,在性能倒退的最初就能識(shí)別并解決;當(dāng)性能優(yōu)化成果合入版本后,又刷新性能基線。從而使存儲(chǔ)產(chǎn)品的性能能夠不斷提升。

馮翔宇介紹,性能自動(dòng)化系統(tǒng)建立初期,測(cè)試團(tuán)隊(duì)查找和嘗試了大量的開源工具和資料,決定了基于一個(gè)開源的基礎(chǔ)框架。真正開展后卻發(fā)現(xiàn),框架雖然體系清晰,但是原生系統(tǒng)卻是基于塊業(yè)務(wù)實(shí)現(xiàn)的,且該系統(tǒng)實(shí)際上僅僅是一個(gè)預(yù)研階段的產(chǎn)物,實(shí)際操作的資料基本沒有。在初次部署時(shí),便有層層報(bào)錯(cuò)。

測(cè)試團(tuán)隊(duì)花費(fèi)了大量的時(shí)間梳理系統(tǒng)框架、終于建立了文件系統(tǒng)測(cè)試系統(tǒng)框架。然而,進(jìn)行初步測(cè)試的過程中,卻發(fā)現(xiàn)存儲(chǔ)關(guān)注的性能數(shù)據(jù)分析和統(tǒng)計(jì)功能并不適配。

眾所周知,存儲(chǔ)產(chǎn)品的性能測(cè)試與硬件環(huán)境強(qiáng)相關(guān),在保證性能測(cè)試數(shù)據(jù)能及時(shí)、有效提供的同時(shí),還需要保證周邊的測(cè)試環(huán)境、可供分析的perf數(shù)據(jù)準(zhǔn)確抓取,這對(duì)于長(zhǎng)期的性能穩(wěn)定性至關(guān)重要。

為此,測(cè)試與開發(fā)團(tuán)隊(duì)內(nèi)部專家反復(fù)溝通性能perf數(shù)據(jù)的抓取,建立可以反復(fù)、長(zhǎng)期使用的perf數(shù)據(jù)庫(kù),確定抓取、命名、分類等準(zhǔn)則;針對(duì)代碼的簡(jiǎn)潔準(zhǔn)確性、接口可復(fù)用繼承性、異常流程處理等,測(cè)試人員反復(fù)考慮和優(yōu)化已經(jīng)調(diào)試走通的代碼,對(duì)加強(qiáng)異常報(bào)錯(cuò)代碼的提示信息也格外注重,快速解決問題。

團(tuán)隊(duì)的努力沒有白費(fèi),經(jīng)過反復(fù)的測(cè)驗(yàn)和不斷集思廣益優(yōu)化,當(dāng)前自動(dòng)化測(cè)試系統(tǒng)具備一鍵完成自動(dòng)安裝、多個(gè)測(cè)試任務(wù)一鍵下發(fā)、性能數(shù)據(jù)準(zhǔn)確收集等功能,讓運(yùn)維人員從性能測(cè)試環(huán)境確認(rèn)、腳本確認(rèn)、數(shù)據(jù)人力收集等諸多重復(fù)操作中解放,節(jié)約一半以上的人力投入,真正實(shí)現(xiàn)版本性能看護(hù),為用戶的業(yè)務(wù)開展提供最強(qiáng)加速度。

后記:披荊斬棘 初露鋒芒

排查完性能問題之后的X10000存儲(chǔ)系統(tǒng),到客戶的應(yīng)用測(cè)試環(huán)境中,也表現(xiàn)出了優(yōu)異的性能,為X10000在廣電行業(yè)的破冰與開拓奠定了堅(jiān)實(shí)的基礎(chǔ)。

上文我們記載的是X10000性能研發(fā)過程中的一個(gè)小小的插曲,正如前文提到的,存儲(chǔ)系統(tǒng)的性能涉及到無數(shù)的IO環(huán)節(jié),只有我們掃除了每個(gè)IO環(huán)節(jié)上的瓶頸,才能造就存儲(chǔ)系統(tǒng)優(yōu)異穩(wěn)定的性能,在這個(gè)不斷排查瓶頸的過程中,研發(fā)中心上演了一幕幕感人的小故事,奠定了X10000存儲(chǔ)系統(tǒng)的性能基礎(chǔ),鋪就了X10000在多個(gè)行業(yè)開疆?dāng)U土的發(fā)展前景!
責(zé)任編輯:pj

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    10702

    瀏覽量

    209371
  • 軟件
    +關(guān)注

    關(guān)注

    69

    文章

    4570

    瀏覽量

    86699
  • 存儲(chǔ)系統(tǒng)
    +關(guān)注

    關(guān)注

    2

    文章

    396

    瀏覽量

    40788
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    基于分布式存儲(chǔ)系統(tǒng)醫(yī)療影像數(shù)據(jù)存儲(chǔ)解決方案

    基于分布式存儲(chǔ)系統(tǒng)醫(yī)療影像數(shù)據(jù)存儲(chǔ)解決方案
    的頭像 發(fā)表于 09-14 09:53 ?129次閱讀
    基于分布式<b class='flag-5'>存儲(chǔ)系統(tǒng)</b>醫(yī)療影像數(shù)據(jù)<b class='flag-5'>存儲(chǔ)</b>解決方案

    基于CSS融合存儲(chǔ)系統(tǒng)的自動(dòng)化制造服務(wù)平臺(tái)存儲(chǔ)解決方案

    基于CSS融合存儲(chǔ)系統(tǒng)的自動(dòng)化制造服務(wù)平臺(tái)存儲(chǔ)解決方案
    的頭像 發(fā)表于 09-10 10:15 ?153次閱讀
    基于CSS融合<b class='flag-5'>存儲(chǔ)系統(tǒng)</b>的自動(dòng)化制造服務(wù)平臺(tái)<b class='flag-5'>存儲(chǔ)</b>解決方案

    內(nèi)存、存儲(chǔ)系統(tǒng)和CPU的區(qū)別

    在計(jì)算機(jī)系統(tǒng)中,內(nèi)存、存儲(chǔ)系統(tǒng)和CPU是三個(gè)至關(guān)重要的組件,它們各自承擔(dān)著不同的職責(zé),共同協(xié)作以完成數(shù)據(jù)處理和運(yùn)算任務(wù)。以下是對(duì)這三者之間區(qū)別的詳細(xì)闡述。
    的頭像 發(fā)表于 07-15 18:11 ?994次閱讀

    黑龍江電力高性能WDS分布式存儲(chǔ)系統(tǒng)解決方案

    黑龍江電力高性能WDS分布式存儲(chǔ)系統(tǒng)解決方案
    的頭像 發(fā)表于 07-01 09:54 ?223次閱讀
    黑龍江電力高<b class='flag-5'>性能</b>WDS分布式<b class='flag-5'>存儲(chǔ)系統(tǒng)</b>解決方案

    數(shù)據(jù)中心存儲(chǔ)系統(tǒng)出現(xiàn)故障的處理方法有哪些?數(shù)據(jù)中心存儲(chǔ)系統(tǒng)出現(xiàn)故障怎么辦?

    互聯(lián)網(wǎng)+時(shí)代,大數(shù)據(jù)非常重要,如果保護(hù)好如數(shù)據(jù)存儲(chǔ)系統(tǒng)相當(dāng)關(guān)鍵。如今,隨著互聯(lián)網(wǎng)的快速發(fā)展,各種攻擊變得越來越嚴(yán)重,數(shù)據(jù)存儲(chǔ)系統(tǒng)也變得越來越不安全了,普遍來說,存儲(chǔ)系統(tǒng)是由主機(jī)、交換機(jī)及存儲(chǔ)
    的頭像 發(fā)表于 06-19 11:30 ?507次閱讀

    FMS柔性制造系統(tǒng)的結(jié)構(gòu)各環(huán)節(jié)的功能

    工。FMS的組成結(jié)構(gòu)包括多個(gè)環(huán)節(jié),每個(gè)環(huán)節(jié)都有其特定的功能,共同構(gòu)成了一個(gè)完整的制造系統(tǒng)。 系統(tǒng)規(guī)劃與設(shè)計(jì) FMS的系統(tǒng)規(guī)劃與設(shè)計(jì)是整個(gè)
    的頭像 發(fā)表于 06-11 09:19 ?516次閱讀

    IOPS:存儲(chǔ)芯片的“心跳”性能

    IOPS,即每秒輸入/輸出操作數(shù)(Input/Output Operations Per Second),是一個(gè)用于計(jì)算機(jī)存儲(chǔ)設(shè)備(如硬盤,SD Nand?、eMMC等)性能測(cè)試的量測(cè)方式,是評(píng)估存儲(chǔ)系統(tǒng)性能的一個(gè)關(guān)鍵指標(biāo)。
    的頭像 發(fā)表于 05-27 09:25 ?1402次閱讀
    IOPS:<b class='flag-5'>存儲(chǔ)</b>芯片的“心跳”<b class='flag-5'>性能</b>

    兆芯攜手智云創(chuàng)新推出高性能NVMe企業(yè)級(jí)存儲(chǔ)系統(tǒng)

    面向持續(xù)增長(zhǎng)的數(shù)字化轉(zhuǎn)型與應(yīng)用創(chuàng)新發(fā)展需求,兆芯攜手智云創(chuàng)新,基于兆芯高性能自主處理器平臺(tái)成功推出多款信創(chuàng)存儲(chǔ)產(chǎn)品,包括高性能NVMe企業(yè)級(jí)存儲(chǔ)系統(tǒng)、HS6000系列企業(yè)級(jí)
    的頭像 發(fā)表于 04-12 14:06 ?412次閱讀

    大數(shù)據(jù)時(shí)代的存儲(chǔ)革命:理解分布式存儲(chǔ)系統(tǒng)

    數(shù)據(jù)管理的效率極低。因此,分布式存儲(chǔ)系統(tǒng)應(yīng)運(yùn)而生。 分布式存儲(chǔ)就是將數(shù)據(jù)存儲(chǔ)在眾多的服務(wù)器或網(wǎng)絡(luò)節(jié)點(diǎn)上,而不是集中在單個(gè)位置。這種方式的好處包括:方便擴(kuò)容、數(shù)據(jù)冗余備份提高容錯(cuò)性、避免單點(diǎn)故障影響整個(gè)
    的頭像 發(fā)表于 03-07 15:40 ?323次閱讀

    如何去提高EtherCAT IO性能呢?

    進(jìn)行EtherCAT IO性能優(yōu)化涉及多個(gè)方面,包括硬件選擇、網(wǎng)絡(luò)配置、軟件優(yōu)化和應(yīng)用程序設(shè)計(jì)。
    的頭像 發(fā)表于 03-07 09:28 ?353次閱讀

    什么是智能存儲(chǔ)系統(tǒng)?對(duì)比傳統(tǒng)存儲(chǔ)柜,智能存儲(chǔ)柜有哪些優(yōu)點(diǎn)?

    智能存儲(chǔ)系統(tǒng)(IntelligentStorageSystem)是一種先進(jìn)的數(shù)據(jù)存儲(chǔ)解決方案,它結(jié)合了硬件、軟件和自動(dòng)化管理功能,以實(shí)現(xiàn)對(duì)數(shù)據(jù)存儲(chǔ)的高度優(yōu)化、高效能、高可用性和可擴(kuò)展性。是針對(duì)現(xiàn)代
    的頭像 發(fā)表于 03-05 13:53 ?353次閱讀
    什么是智能<b class='flag-5'>存儲(chǔ)系統(tǒng)</b>?對(duì)比傳統(tǒng)<b class='flag-5'>存儲(chǔ)</b>柜,智能<b class='flag-5'>存儲(chǔ)</b>柜有哪些優(yōu)點(diǎn)?

    簡(jiǎn)單說一下阻塞IO、非阻塞IOIO復(fù)用的區(qū)別?

    對(duì)于計(jì)算機(jī)而言,任何涉及到計(jì)算機(jī)核心(CPU和內(nèi)存)與其他設(shè)備間的數(shù)據(jù)轉(zhuǎn)移的過程就是IO。
    的頭像 發(fā)表于 03-04 15:14 ?911次閱讀
    簡(jiǎn)單說一下阻塞<b class='flag-5'>IO</b>、非阻塞<b class='flag-5'>IO</b>、<b class='flag-5'>IO</b>復(fù)用的區(qū)別?

    得瑞領(lǐng)新參編團(tuán)體標(biāo)準(zhǔn)《高性能計(jì)算 分布式存儲(chǔ)系統(tǒng)技術(shù)要求》正式發(fā)布

    得瑞領(lǐng)新參編的《高性能計(jì)算 分布式存儲(chǔ)系統(tǒng)技術(shù)要求》團(tuán)標(biāo)由中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)正式發(fā)布,這標(biāo)志著得瑞在高性能計(jì)算和分布式存儲(chǔ)領(lǐng)域的技術(shù)實(shí)力得到認(rèn)可,同時(shí)也展現(xiàn)了公司在行業(yè)標(biāo)準(zhǔn)制定
    的頭像 發(fā)表于 03-01 10:00 ?305次閱讀
    得瑞領(lǐng)新參編團(tuán)體標(biāo)準(zhǔn)《高<b class='flag-5'>性能</b>計(jì)算 分布式<b class='flag-5'>存儲(chǔ)系統(tǒng)</b>技術(shù)要求》正式發(fā)布

    百度搜索內(nèi)容HTAP表格存儲(chǔ)系統(tǒng)

    整套存儲(chǔ)設(shè)計(jì)需要解決的核心問題是——如何在OLTP存儲(chǔ)系統(tǒng)中支持OLAP workflow?OLAP workflow在OLTP存儲(chǔ)系統(tǒng)上帶來的兩個(gè)最主要的問題是:嚴(yán)重的IO放大率、存
    的頭像 發(fā)表于 12-05 16:00 ?383次閱讀
    百度搜索內(nèi)容HTAP表格<b class='flag-5'>存儲(chǔ)系統(tǒng)</b>

    曙光推出ParaStor分布式存儲(chǔ)系統(tǒng)解決方案

    。在數(shù)據(jù)建模分析中,數(shù)據(jù)存儲(chǔ)的壓力會(huì)隨之增長(zhǎng),存儲(chǔ)系統(tǒng)往往需具備PB級(jí)的擴(kuò)展能力和極高的讀寫性能,這對(duì)存儲(chǔ)系統(tǒng)穩(wěn)定性、可靠性和訪問帶寬都提出了嚴(yán)苛要求。 為應(yīng)對(duì)石油勘探面臨的挑戰(zhàn),中科
    的頭像 發(fā)表于 10-21 09:25 ?791次閱讀