0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

分布式數(shù)據(jù)恢復(fù)-hbase+hive分布式存儲誤刪除文件的數(shù)據(jù)恢復(fù)方案

Frombyte ? 來源:Frombyte ? 作者:Frombyte ? 2023-11-24 15:55 ? 次閱讀

hbase+hive分布式存儲數(shù)據(jù)恢復(fù)環(huán)境:
16臺某品牌R730XD服務(wù)器節(jié)點(diǎn),每臺物理服務(wù)器節(jié)點(diǎn)上有數(shù)臺虛擬機(jī),虛擬機(jī)上配置的分布式,上層部署hbase數(shù)據(jù)庫+hive數(shù)據(jù)倉庫。

hbase+hive分布式存儲故障&初檢:
數(shù)據(jù)庫文件被誤刪除,數(shù)據(jù)庫無法使用。
通過現(xiàn)場對該分布式環(huán)境的初步檢測,發(fā)現(xiàn)虛擬機(jī)還可以正常啟動,虛擬機(jī)里面的數(shù)據(jù)庫塊文件丟失。好在塊文件丟失之后沒有對集群環(huán)境寫入數(shù)據(jù),底層數(shù)據(jù)損壞可能性比較小。

hbase+hive分布式存儲數(shù)據(jù)恢復(fù)方案:
1、備份。
A、從物理服務(wù)器底層做備份,將設(shè)備斷電、關(guān)機(jī)。將所有磁盤編號后從服務(wù)器/存儲中取出。
B、從虛擬機(jī)層面?zhèn)浞?,通過網(wǎng)絡(luò)直接備份虛擬機(jī)底層磁盤文件。
C、北亞企安數(shù)據(jù)恢復(fù)中心準(zhǔn)備一臺服務(wù)器以只讀方式掛載服務(wù)器硬盤,對所有磁盤進(jìn)行扇區(qū)對扇區(qū)的全盤鏡像備份。
D、備份完成后提供詳細(xì)報(bào)告,內(nèi)容涉及所有磁盤的健康狀態(tài)和存在的壞道列表。
E、將服務(wù)器硬盤按照編號還原到原服務(wù)器/存儲設(shè)備中,之后數(shù)據(jù)分析和數(shù)據(jù)恢復(fù)操作都基于鏡像文件進(jìn)行,避免對原始磁盤數(shù)據(jù)造成二次破壞。

2、基于鏡像文件分析塊文件結(jié)構(gòu)。
A、分析每個(gè)虛擬機(jī)磁盤的塊文件。
B、分析文件底層的聚合方式。
C、分析磁盤中數(shù)據(jù)分布情況。

3、分析Block文件key。
A、定位數(shù)據(jù)庫文件中的key信息。
B、提取并解析數(shù)據(jù)庫文件中key信息。
C、整合數(shù)據(jù)庫文件key信息。

4、拼接Block文件。
A、根據(jù)Block文件的key信息提取文件片段。
B、拼接Block文件的片段。
C、校驗(yàn)拼接后的Block文件的正確性。

5、導(dǎo)入Block文件。
A、校驗(yàn)提取出來的Block文件完整性和正確性。
B、把提取出來的Block文件導(dǎo)入到hbase和hive數(shù)據(jù)倉庫中。

6、驗(yàn)證數(shù)據(jù)。
由用戶對數(shù)據(jù)進(jìn)行詳細(xì)驗(yàn)證。如果發(fā)現(xiàn)問題則重新檢驗(yàn)上面的恢復(fù)流程。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 數(shù)據(jù)恢復(fù)

    關(guān)注

    10

    文章

    538

    瀏覽量

    17341
  • 分布式
    +關(guān)注

    關(guān)注

    1

    文章

    858

    瀏覽量

    74439
收藏 人收藏

    評論

    相關(guān)推薦

    服務(wù)器數(shù)據(jù)恢復(fù)—EXT3文件系統(tǒng)下誤刪除數(shù)據(jù)恢復(fù)案例

    服務(wù)器數(shù)據(jù)恢復(fù)環(huán)境: 郵件服務(wù)器中有一組由8塊盤組成的RAID5陣列, 上層是Linux操作系統(tǒng)+EXT3文件系統(tǒng)。 服務(wù)器故障: 由于誤刪除導(dǎo)致
    的頭像 發(fā)表于 10-23 15:11 ?103次閱讀
    服務(wù)器<b class='flag-5'>數(shù)據(jù)</b><b class='flag-5'>恢復(fù)</b>—EXT3<b class='flag-5'>文件</b>系統(tǒng)下<b class='flag-5'>誤刪除數(shù)據(jù)</b>的<b class='flag-5'>恢復(fù)</b>案例

    基于分布式存儲系統(tǒng)醫(yī)療影像數(shù)據(jù)存儲解決方案

    基于分布式存儲系統(tǒng)醫(yī)療影像數(shù)據(jù)存儲解決方案
    的頭像 發(fā)表于 09-14 09:53 ?237次閱讀
    基于<b class='flag-5'>分布式</b><b class='flag-5'>存儲</b>系統(tǒng)醫(yī)療影像<b class='flag-5'>數(shù)據(jù)</b><b class='flag-5'>存儲</b>解決<b class='flag-5'>方案</b>

    醫(yī)療PACS影像數(shù)據(jù)的極速分布式存儲解決方案

    醫(yī)療PACS影像數(shù)據(jù)的極速分布式存儲解決方案
    的頭像 發(fā)表于 08-23 10:13 ?240次閱讀
    醫(yī)療PACS影像<b class='flag-5'>數(shù)據(jù)</b>的極速<b class='flag-5'>分布式</b>塊<b class='flag-5'>存儲</b>解決<b class='flag-5'>方案</b>

    NetApp數(shù)據(jù)恢復(fù)—NetApp存儲誤刪除數(shù)據(jù)恢復(fù)案例

    某公司一臺NetApp存儲,該存儲中有24塊磁盤。 工作人員誤刪除了NetApp存儲中一個(gè)文件夾,文件
    的頭像 發(fā)表于 08-12 13:35 ?207次閱讀
    NetApp<b class='flag-5'>數(shù)據(jù)</b><b class='flag-5'>恢復(fù)</b>—NetApp<b class='flag-5'>存儲</b><b class='flag-5'>誤刪除</b>的<b class='flag-5'>數(shù)據(jù)</b><b class='flag-5'>恢復(fù)</b>案例

    Oracle數(shù)據(jù)恢復(fù)—Oracle刪除數(shù)據(jù)不用怕!這些數(shù)據(jù)恢復(fù)方法了解一下

    相信有很多oracle數(shù)據(jù)庫用戶都遇到過在操作Oracle數(shù)據(jù)庫時(shí)誤刪除某些重要數(shù)據(jù)的情況,這個(gè)時(shí)候如果數(shù)據(jù)庫沒有備份且
    的頭像 發(fā)表于 07-19 16:40 ?437次閱讀

    服務(wù)器數(shù)據(jù)恢復(fù)誤刪除KVM虛擬機(jī)的數(shù)據(jù)恢復(fù)案例

    1臺服務(wù)器,Linux操作系統(tǒng)+EXT4文件系統(tǒng),部署了數(shù)臺KVM虛擬機(jī),每臺虛擬機(jī)包含一個(gè)qcow2格的磁盤文件,和一個(gè)raw格式的磁盤文件。 工作人員操作失
    的頭像 發(fā)表于 06-17 15:10 ?306次閱讀
    服務(wù)器<b class='flag-5'>數(shù)據(jù)</b><b class='flag-5'>恢復(fù)</b>—<b class='flag-5'>誤刪除</b>KVM虛擬機(jī)的<b class='flag-5'>數(shù)據(jù)</b><b class='flag-5'>恢復(fù)</b>案例

    鴻蒙開發(fā)接口數(shù)據(jù)管理:【@ohos.data.distributedData (分布式數(shù)據(jù)管理)】

    分布式數(shù)據(jù)管理為應(yīng)用程序提供不同設(shè)備間數(shù)據(jù)庫的分布式協(xié)同能力。通過調(diào)用分布式數(shù)據(jù)各個(gè)接口,應(yīng)用程
    的頭像 發(fā)表于 06-07 09:30 ?865次閱讀
    鴻蒙開發(fā)接口<b class='flag-5'>數(shù)據(jù)</b>管理:【@ohos.data.distributedData (<b class='flag-5'>分布式</b><b class='flag-5'>數(shù)據(jù)</b>管理)】

    分布式存儲與計(jì)算:大數(shù)據(jù)時(shí)代的解決方案

    分布式存儲和計(jì)算技術(shù)應(yīng)運(yùn)而生,并迅速成為處理大數(shù)據(jù)的首選方案。本文將深入探討分布式存儲和計(jì)算的概
    的頭像 發(fā)表于 03-07 14:42 ?674次閱讀

    分布式智慧終端:挑戰(zhàn)與解決方案

    是一個(gè)重要的問題。解決方案包括采用分布式一致性協(xié)議,如Paxos、Raft等,以及通過數(shù)據(jù)備份和恢復(fù)機(jī)制來確保數(shù)據(jù)的安全性。 故障容忍性挑戰(zhàn)
    的頭像 發(fā)表于 01-24 14:50 ?389次閱讀

    【Vsan數(shù)據(jù)恢復(fù)】Vsan分布式存儲虛擬磁盤文件丟失的數(shù)據(jù)恢復(fù)案例

    一套vsan分布式存儲架構(gòu)有數(shù)臺服務(wù)器節(jié)點(diǎn),該vsan分布式存儲架構(gòu)配置了固態(tài)硬盤和機(jī)械硬盤,固態(tài)硬盤作為緩存盤使用,機(jī)械硬盤作為容量盤使用。 機(jī)房供電異常導(dǎo)致服務(wù)器異常關(guān)機(jī),工作人
    的頭像 發(fā)表于 01-03 16:39 ?580次閱讀

    鴻蒙原生應(yīng)用開發(fā)——分布式數(shù)據(jù)對象

    分布式數(shù)據(jù)對象退出 sessionId 后,該對象將檢測不到其他對象的變更。 02、分布式數(shù)據(jù)對象能力 1、分布式
    發(fā)表于 12-08 10:01

    redis分布式鎖可能出現(xiàn)的問題及解決方案

    。 誤刪鎖 Redis分布式鎖通常使用SETNX命令創(chuàng)建,并使用DEL命令刪除。在高并發(fā)情況下,可能會發(fā)生誤刪鎖的情況,即一個(gè)線程A獲得鎖后,另一個(gè)線程B也可以獲得鎖并
    的頭像 發(fā)表于 12-04 11:29 ?890次閱讀

    zookeeper分布式原理

    是提供一個(gè)高可用的、一致性的機(jī)制,用于解決分布式系統(tǒng)中常見的一致性問題,比如Leader選舉、分布式鎖等。在本文中,我們將詳細(xì)介紹Zookeeper的原理和工作機(jī)制。 數(shù)據(jù)模型 Zookeeper的
    的頭像 發(fā)表于 12-03 16:33 ?600次閱讀

    HarmonyOS分布式文件系統(tǒng)開發(fā)指導(dǎo)

    監(jiān)聽、通過軟總線建立鏈路,并根據(jù)分布式的設(shè)備安全等級執(zhí)行不同的數(shù)據(jù)流轉(zhuǎn)策略。 ● hmdfs:實(shí)現(xiàn)在內(nèi)核的網(wǎng)絡(luò)文件系統(tǒng),包括緩存管理、文件訪問、元數(shù)
    發(fā)表于 11-14 17:14