0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

現(xiàn)有文件系統(tǒng)元數(shù)據(jù)管理的潛在缺陷

智能計(jì)算芯世界 ? 來源:智能計(jì)算芯世界 ? 作者:智能計(jì)算芯世界 ? 2022-11-03 09:54 ? 次閱讀

在HPC計(jì)算和存儲(chǔ)業(yè)務(wù)中,針對(duì)文件系統(tǒng)的IO請(qǐng)求中,一半以上是元數(shù)據(jù)訪問。元數(shù)據(jù)訪問特點(diǎn):

I/O大小較?。ㄔ獢?shù)據(jù)大小通常只有幾百Byte),使得元數(shù)據(jù)服務(wù)器CPU的負(fù)載重

許多元數(shù)據(jù)操作包含多次子操作,例如打開文件需要進(jìn)行多次的路徑解析,使得元數(shù)據(jù)操作會(huì)觸發(fā)多次網(wǎng)絡(luò)I/O

當(dāng)前,主流并行文件系統(tǒng)大多采用分布式解決方案中,Lustre、CephFS采用子樹劃分+目錄條帶化;BeeGFS根據(jù)名稱的Hash值分布到多節(jié)點(diǎn);GlusterFS采用無中心架構(gòu);IndexFS的元數(shù)據(jù)以KV存儲(chǔ),通過GIGA+算法分布到多節(jié)點(diǎn)。

現(xiàn)有文件系統(tǒng)元數(shù)據(jù)管理的潛在缺陷:1)POSIX的語義限制了元數(shù)據(jù)性能提升,2)數(shù)據(jù)結(jié)構(gòu)不利于并發(fā)處理,3)元數(shù)據(jù)性能提升面臨的機(jī)遇,如IO設(shè)備跨越式發(fā)展(NVMe SSD充裕的IOPS和帶寬,多通道并發(fā)能力)。

針對(duì)文件系統(tǒng)元數(shù)據(jù)一直是文件系統(tǒng)的瓶頸問題,單點(diǎn)元數(shù)據(jù)性能仍然存在很大的提升空間,如沒有充分發(fā)揮IO效能,沒有充分發(fā)揮計(jì)算效能等,本文提出改進(jìn)數(shù)據(jù)結(jié)構(gòu),降低IO之間的依賴,發(fā)揮并行IO能力(降低目錄路徑解析延遲,降低大目錄訪問延遲,降低數(shù)據(jù)塊訪問延遲)改進(jìn)算法,發(fā)揮計(jì)算部件的并行計(jì)算能力等措施。

ae4569f4-5b09-11ed-a3b6-dac502259ad0.png

ae5cb000-5b09-11ed-a3b6-dac502259ad0.png

ae7fec96-5b09-11ed-a3b6-dac502259ad0.png

ae9a679c-5b09-11ed-a3b6-dac502259ad0.png

aeebf8dc-5b09-11ed-a3b6-dac502259ad0.png

af65a614-5b09-11ed-a3b6-dac502259ad0.png

afdc0ed0-5b09-11ed-a3b6-dac502259ad0.png

b0228e46-5b09-11ed-a3b6-dac502259ad0.png

b042d386-5b09-11ed-a3b6-dac502259ad0.png

b05b5c94-5b09-11ed-a3b6-dac502259ad0.png

b0e52dde-5b09-11ed-a3b6-dac502259ad0.png

b100e182-5b09-11ed-a3b6-dac502259ad0.png

b1d9fd5a-5b09-11ed-a3b6-dac502259ad0.png

b213196e-5b09-11ed-a3b6-dac502259ad0.png

b27ac53c-5b09-11ed-a3b6-dac502259ad0.png

b39871c6-5b09-11ed-a3b6-dac502259ad0.png

b3af8028-5b09-11ed-a3b6-dac502259ad0.png

b3eda33a-5b09-11ed-a3b6-dac502259ad0.png

b414b4c0-5b09-11ed-a3b6-dac502259ad0.png

b4465692-5b09-11ed-a3b6-dac502259ad0.png

b4681fa2-5b09-11ed-a3b6-dac502259ad0.png

針對(duì)文件系統(tǒng)元數(shù)據(jù)一直是文件系統(tǒng)的瓶頸問題,單點(diǎn)元數(shù)據(jù)性能仍然存在很大的提升空間,如沒有充分發(fā)揮IO效能,沒有充分發(fā)揮計(jì)算效能等,本文提出改進(jìn)數(shù)據(jù)結(jié)構(gòu),降低IO之間的依賴,發(fā)揮并行IO能力(降低目錄路徑解析延遲,降低大目錄訪問延遲,降低數(shù)據(jù)塊訪問延遲)改進(jìn)算法,發(fā)揮計(jì)算部件的并行計(jì)算能力等措施。

審核編輯:彭靜
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 存儲(chǔ)
    +關(guān)注

    關(guān)注

    13

    文章

    4123

    瀏覽量

    85279
  • 數(shù)據(jù)管理
    +關(guān)注

    關(guān)注

    1

    文章

    277

    瀏覽量

    19556
  • 文件系統(tǒng)
    +關(guān)注

    關(guān)注

    0

    文章

    280

    瀏覽量

    19831

原文標(biāo)題:HPC并行文件:元數(shù)據(jù)如何縱向可擴(kuò)展?

文章出處:【微信號(hào):AI_Architect,微信公眾號(hào):智能計(jì)算芯世界】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    Linux文件系統(tǒng)簡(jiǎn)介

    任何一個(gè)操作系統(tǒng)中,文件管理是其基本功能之一,而文件管理是由文件系統(tǒng)來完成的。
    發(fā)表于 04-15 11:46 ?2508次閱讀
    Linux<b class='flag-5'>文件系統(tǒng)</b>簡(jiǎn)介

    進(jìn)一步了解iMatrix平臺(tái)核心功能之系統(tǒng)數(shù)據(jù)管理

    本帖最后由 imatrix 于 2013-7-30 11:15 編輯 iMatrix平臺(tái)的系統(tǒng)數(shù)據(jù)管理是維護(hù)各系統(tǒng)定義的模型數(shù)據(jù),包
    發(fā)表于 07-30 10:58

    數(shù)據(jù)管理功能詳解

    庫的情況下,執(zhí)行即時(shí)搜索、實(shí)時(shí)修訂,隨時(shí)管理已發(fā)放設(shè)計(jì)文檔,使得用戶更輕松地采用標(biāo)準(zhǔn)、查找零件、管理設(shè)計(jì)變更、篩選重復(fù)模型等。此外,浩辰3D軟件的數(shù)據(jù)管理工具,還可以對(duì)正在審核或已發(fā)放生產(chǎn)的設(shè)計(jì)
    發(fā)表于 11-03 15:32

    【學(xué)習(xí)打卡】OpenHarmony的分布式數(shù)據(jù)管理介紹

    時(shí),應(yīng)用程序和用戶可以操作數(shù)據(jù),無論數(shù)據(jù)是在本地還是在遠(yuǎn)程系統(tǒng)上。本地和遠(yuǎn)程文件處理的處理方式相同。數(shù)據(jù)管理過程包括不同功能的組合,可確保
    發(fā)表于 07-15 15:49

    采用信任管理的分布式文件系統(tǒng)TrustFs

    在傳統(tǒng)的分布式文件系統(tǒng)中用戶無法判斷文件的可信任性,針對(duì)此問題提出采用信任管理的分布式文件系統(tǒng)TrustFs,使用數(shù)字簽名對(duì)文件的發(fā)布者進(jìn)行
    發(fā)表于 04-02 08:57 ?19次下載

    文件系統(tǒng)管理操作

    為了方便用戶對(duì)設(shè)備存儲(chǔ)設(shè)備進(jìn)行有效的管理,設(shè)備提供了文件系統(tǒng)功能,實(shí)現(xiàn)對(duì)文件和目錄的訪問管理:用戶可以通過命令行對(duì)文件進(jìn)行創(chuàng)建、移動(dòng)、拷貝、
    發(fā)表于 08-30 15:55 ?0次下載

    XfS文件系統(tǒng),XfS文件系統(tǒng)是什么意思

    XfS文件系統(tǒng),XfS文件系統(tǒng)是什么意思 XfS文件系統(tǒng)是SGI開發(fā)的高級(jí)日志文件系統(tǒng),XFS極具伸縮性,非常健壯。所幸的是SGI將其移植到了Lin
    發(fā)表于 03-29 10:39 ?4223次閱讀

    Ceph文件系統(tǒng)數(shù)據(jù)緩存?zhèn)浞?/a>

    針對(duì)Ceph文件系統(tǒng)數(shù)據(jù)寫操作響應(yīng)時(shí)間較長(zhǎng)的問題,提出一種對(duì)數(shù)據(jù)緩存進(jìn)行備份的方案。該方案采用多個(gè)
    發(fā)表于 02-08 15:38 ?0次下載
    Ceph<b class='flag-5'>文件系統(tǒng)</b>的<b class='flag-5'>數(shù)據(jù)</b>緩存?zhèn)浞? />    </a>
</div>                            <div   id=

    文件系統(tǒng)是什么?淺談EXT文件系統(tǒng)歷史

    在先前關(guān)于Linux文件系統(tǒng)的文章中,我很想去深入地討論更多EXT文件系統(tǒng)的特性的信息。所以,首先讓我們來回答這個(gè)問題:什么是文件系統(tǒng)?一個(gè)文件系統(tǒng)應(yīng)該遵循以下特點(diǎn)。
    發(fā)表于 06-28 09:03 ?5562次閱讀
    <b class='flag-5'>文件系統(tǒng)</b>是什么?淺談EXT<b class='flag-5'>文件系統(tǒng)</b>歷史

    基于分布式文件系統(tǒng)數(shù)據(jù)操作優(yōu)化

    。為了有效解決這一問題,工業(yè)界和學(xué)術(shù)界開發(fā)出基于各種設(shè)計(jì)架構(gòu)和理念的分布式文件系統(tǒng)數(shù)據(jù)管理是分布式文件系統(tǒng)中一個(gè)重要的研究?jī)?nèi)容。
    發(fā)表于 02-24 13:46 ?0次下載
    基于分布式<b class='flag-5'>文件系統(tǒng)</b><b class='flag-5'>元</b><b class='flag-5'>數(shù)據(jù)</b>操作優(yōu)化

    Linux 內(nèi)核/sys 文件系統(tǒng)介紹

    linux2.6內(nèi)核引入sysfs文件系統(tǒng),sysfs可以看成與proc,devfs和devpty同類別的文件系統(tǒng),該文件系統(tǒng)是虛擬的文件系統(tǒng),可以更方便對(duì)
    發(fā)表于 04-25 16:20 ?4209次閱讀
    Linux 內(nèi)核/sys <b class='flag-5'>文件系統(tǒng)</b>介紹

    需要了解文件系統(tǒng)管理

    文件系統(tǒng)是基于操作系統(tǒng)的,用來管理和組織保存在磁盤驅(qū)動(dòng)器上的數(shù)據(jù)系統(tǒng)軟件,通過對(duì)數(shù)據(jù)存儲(chǔ)布局/
    發(fā)表于 04-25 17:40 ?517次閱讀
    需要了解<b class='flag-5'>文件系統(tǒng)管理</b>

    FATFS文件系統(tǒng)詳解

    一、文件系統(tǒng)負(fù)責(zé)管理和存儲(chǔ)文件信息的軟件機(jī)構(gòu)稱為文件管理系統(tǒng),簡(jiǎn)稱
    發(fā)表于 11-29 09:51 ?29次下載
    FATFS<b class='flag-5'>文件系統(tǒng)</b>詳解

    關(guān)于數(shù)據(jù)管理解析

    圖書館都會(huì)用一個(gè)叫作“圖書目錄”的文件夾來管理藏書,圖書目錄包含圖書名稱、編號(hào)、作者、主題、簡(jiǎn)介、擺放位置等信息,用來幫助圖書管理管理和快速查找圖書。
    的頭像 發(fā)表于 05-05 16:01 ?1697次閱讀

    Linux的文件系統(tǒng)特點(diǎn)

    ,近期經(jīng)常被讀取和寫入,文件系統(tǒng)應(yīng)該有緩存層。 文件應(yīng)該用文件夾的形式組織起來,方便管理和查詢。 Linux內(nèi)核要在自己的內(nèi)存里面維護(hù)一套數(shù)據(jù)
    的頭像 發(fā)表于 11-09 14:48 ?977次閱讀
    Linux的<b class='flag-5'>文件系統(tǒng)</b>特點(diǎn)