0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

如何快速完成PostgreSQL數(shù)據(jù)遷移?

數(shù)據(jù)庫(kù)小組 ? 來源:數(shù)據(jù)庫(kù)小組 ? 作者:數(shù)據(jù)庫(kù)小組 ? 2023-08-14 15:39 ? 次閱讀

PostgreSQL 是一種備受開發(fā)者和企業(yè)青睞的關(guān)系型數(shù)據(jù)庫(kù),其豐富的數(shù)據(jù)類型、地理空間負(fù)載和強(qiáng)大的擴(kuò)展能力等特性使其備受歡迎。然而,在企業(yè)使用 PostgreSQL 承載應(yīng)用的過程中,由于業(yè)務(wù)需要上云、跨云、下云、跨機(jī)房遷移、跨地域遷移、數(shù)據(jù)庫(kù)版本升級(jí)、擴(kuò)縮容等場(chǎng)景的普遍存在,因此需要進(jìn)行 PostgreSQL 的遷移。

在 PostgreSQL 遷移過程中,遷移時(shí)間、數(shù)據(jù)準(zhǔn)確性和業(yè)務(wù)停機(jī)要求是影響遷移成功的關(guān)鍵因素。因此,選擇合適的遷移工具至關(guān)重要,以提供高效、安全、準(zhǔn)確的遷移能力。

1. 傳統(tǒng)的遷移方案

當(dāng)前,常見的 PostgreSQL 遷移方案為備份恢復(fù)、pg_dump/pg_restore,這兩種遷移方案普遍存在如下的問題:

停機(jī)時(shí)間長(zhǎng),上述方案通常要求,在數(shù)據(jù)庫(kù)遷移期間,業(yè)務(wù)停止服務(wù),停服時(shí)間通常高達(dá)數(shù)小時(shí)/上天,對(duì)業(yè)務(wù)的挑戰(zhàn)極大。特別當(dāng)遷移難度較高時(shí),通常反復(fù)多次遷移,業(yè)務(wù)停服時(shí)間更不可控。

可靠性不高,客戶端工具不提供遷移過程的觀測(cè)、診斷與修復(fù)能力,很容易出錯(cuò)。

數(shù)據(jù)準(zhǔn)確性難保障,此類工具因不提供對(duì)應(yīng)的質(zhì)量檢測(cè)能力,所以遷移的數(shù)據(jù)質(zhì)量一般難以保障。

大數(shù)據(jù)量遷移挑戰(zhàn),因其性能及容災(zāi)能力不足,不能很好支撐大數(shù)據(jù)量、大表的遷移。

2. 業(yè)務(wù)不停機(jī)遷移方案

為了解決用戶在 PostgreSQL 遷移過程中可能面臨的問題,玖章算術(shù)旗下的云原生智能數(shù)據(jù)管理平臺(tái) NineData 推出了 PostgreSQL 業(yè)務(wù)不停服數(shù)據(jù)遷移能力。NineData 實(shí)現(xiàn)了完全自動(dòng)化的結(jié)構(gòu)遷移和全量數(shù)據(jù)遷移,并且還提供了變更數(shù)據(jù)的遷移能力。這種能力可以實(shí)時(shí)監(jiān)聽源 PostgreSQL 中的變更數(shù)據(jù),在完成全量遷移后將變更數(shù)據(jù)實(shí)時(shí)復(fù)制到目標(biāo) PostgreSQL,從而實(shí)現(xiàn)源/目標(biāo) PostgreSQL 的動(dòng)態(tài)復(fù)制。在 PostgreSQL 數(shù)據(jù)遷移過程中,業(yè)務(wù)可以正常提供服務(wù),無需停服。最終,業(yè)務(wù)可以根據(jù)需求選擇對(duì)應(yīng)的時(shí)間點(diǎn)切換到目標(biāo) PostgreSQL。具體流程請(qǐng)參見下圖。

wKgaomTZ2jeAMyNrAADiqpmJUqQ943.png

PostgreSQL數(shù)據(jù)遷移過程|NineData

除了提供業(yè)務(wù)不停服的遷移能力外,NineData 提供的 PostgreSQL 還具有如下能力:

大數(shù)據(jù)量或大表的遷移能力,基于智能分片、動(dòng)態(tài)攢批、并發(fā)遷移、表級(jí)斷點(diǎn)續(xù)傳等多種技術(shù)能力,提供強(qiáng)勁遷移能力。

結(jié)構(gòu)及數(shù)據(jù)一致性對(duì)比,NineData 提供了 PostgreSQL 的結(jié)構(gòu)對(duì)比及數(shù)據(jù)對(duì)比能力,能夠進(jìn)行高效的一致性對(duì)比,快速識(shí)別差異對(duì)象或數(shù)據(jù),并提供對(duì)應(yīng)的訂正 SQL,快速訂正修復(fù)差異內(nèi)容,有效保障遷移數(shù)據(jù)質(zhì)量。

可觀測(cè)可干預(yù)能力,NineData 提供詳細(xì)的遷移狀態(tài)、進(jìn)展及詳情信息,當(dāng)出現(xiàn)遷移異常時(shí),會(huì)提供多種診斷修復(fù)能力,幫助您保障任務(wù)穩(wěn)定性。同時(shí),提供遷移限流能力,您可根據(jù)業(yè)務(wù)需要,自定義遷移速度,保障 PostgreSQL 的穩(wěn)定性。

3. 一分鐘啟動(dòng)全自動(dòng)化遷移

雖然提供了比較強(qiáng)大的 PostgreSQL 的遷移能力,但是 NineData 使用起來非常簡(jiǎn)單,只需要花 1 分鐘時(shí)間完成任務(wù)配置,即可以完全自動(dòng)化完成數(shù)據(jù)的遷移過程。下面我們來看下整個(gè)任務(wù)的配置過程:

1. 配置復(fù)制任務(wù)

wKgZomTZ2b2AaOKRAAc4cvZYxAo846.png

基于上述操作即可輕松、可靠得完成 PostgreSQL 的數(shù)據(jù)遷移。完成 PostgreSQL 任務(wù)配置后,NineData 會(huì)自動(dòng)進(jìn)行結(jié)構(gòu)遷移、全量數(shù)據(jù)遷移及增量數(shù)據(jù)復(fù)制。

當(dāng)數(shù)據(jù)遷移完成后,也可以配置對(duì)應(yīng)的結(jié)構(gòu)對(duì)比、數(shù)據(jù)對(duì)比進(jìn)行結(jié)構(gòu)一致性及數(shù)據(jù)一致性的校驗(yàn)。下面會(huì)進(jìn)行對(duì)比任務(wù)的配置演示。

2. 結(jié)構(gòu)對(duì)比

wKgZomTZ2cSAR3SYAAknnIfG5R4114.png

3. 全量數(shù)據(jù)對(duì)比

wKgZomTZ2cuAQ0M8AAmaeXNMqfY910.png

4. 寫在最后

除了 PostgreSQL,NineData 還支持?jǐn)?shù)十種常見數(shù)據(jù)庫(kù)的遷移和復(fù)制。除了 SAAS 模式,NineData 還提供企業(yè)專屬集群模式,以滿足企業(yè)對(duì)于數(shù)據(jù)安全和合規(guī)性的最高要求。目前,NineData 已在運(yùn)營(yíng)商、金融、制造業(yè)、地產(chǎn)、電商等多個(gè)行業(yè)完成大規(guī)模應(yīng)用實(shí)踐。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 數(shù)據(jù)庫(kù)
    +關(guān)注

    關(guān)注

    7

    文章

    3752

    瀏覽量

    64229
  • 數(shù)據(jù)遷移
    +關(guān)注

    關(guān)注

    0

    文章

    67

    瀏覽量

    6932
  • postgresql
    +關(guān)注

    關(guān)注

    0

    文章

    19

    瀏覽量

    206
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    如何快速完成PostgreSQL數(shù)據(jù)遷移?# 云計(jì)算 #數(shù)據(jù)庫(kù) # #工欲善其事必先利其器,曬一曬你的工具庫(kù)

    云計(jì)算數(shù)據(jù)庫(kù)
    數(shù)據(jù)庫(kù)小組
    發(fā)布于 :2023年10月13日 10:54:24

    【Nanopi2試用體驗(yàn)】高級(jí)(九):Nanopi2上配置PostgreSQL數(shù)據(jù)庫(kù)

    一、安裝世界上最先進(jìn)的開源數(shù)據(jù)庫(kù)PostgreSQL 9.4 和 phpPgAdmin # apt-get install postgresql postgresql-contrib訪
    發(fā)表于 01-27 20:48

    MaxCompute_2_MaxCompute數(shù)據(jù)遷移文檔

    先從源MaxCompute中導(dǎo)出元數(shù)據(jù)DDL,在目標(biāo)MaxCompute中初始化表,然后借助DataX工具完成數(shù)據(jù)遷移,步驟如下:1.安裝配置ODPS客戶端https://help.aliyun.com
    發(fā)表于 04-13 15:28

    容器開啟數(shù)據(jù)服務(wù)之旅系列(一):Kubernetes如何解自建PostgreSQL運(yùn)維之痛

    ;alicloud-disk-efficiency"accessMode: ReadWriteOncesize: 20GisubPath: "postgresql-db"8 點(diǎn)擊 “部署”, 完成數(shù)據(jù)發(fā)布9 點(diǎn)擊
    發(fā)表于 04-17 13:31

    阿里云如何打破Oracle遷移上云的壁壘

    脫敏,將所有表名稱、字段名稱進(jìn)行加密,密鑰文件將由客戶保管。Oracle遷移到PPAS相對(duì)遷移到其他數(shù)據(jù)庫(kù)更為平滑,因?yàn)橛性S多兼容的地方。Oracle數(shù)據(jù)庫(kù)到PPAS
    發(fā)表于 05-29 20:03

    PostgreSQL的常見問題總結(jié)

    1.1)PostgreSQL 是什么?該怎么發(fā)音?1.2)PostgreSQL 的版權(quán)是什么?
    發(fā)表于 07-24 06:12

    RDS for PostgreSQL的插件的創(chuàng)建/刪除和使用方法

    這類插件在計(jì)算機(jī)相關(guān)領(lǐng)域中已經(jīng)有不同程度的應(yīng)用,它成為 PostgreSQL 功能延展性的主要特點(diǎn)。PostgreSQL 的插件可以完成包括各種類型、各種數(shù)據(jù)訪問的各種類型等功能。這
    發(fā)表于 04-25 10:30

    阿里云PolarDB支持Oracle等數(shù)據(jù)庫(kù)一鍵遷移上云

    阿里云PolarDB發(fā)布重大更新,提供傳統(tǒng)數(shù)據(jù)庫(kù)一鍵遷移上云能力,可以幫助企業(yè)將線下的MySQL、PostgreSQL和Oracle等數(shù)據(jù)庫(kù)輕松上云,最快數(shù)小時(shí)內(nèi)
    發(fā)表于 07-11 16:39 ?958次閱讀

    PostgreSQL 13正式發(fā)布

    來源:CSDN 9月24日,PostgreSQL全球開發(fā)組宣布PostgreSQL 13正式發(fā)布,作為世界上使用最多的開源數(shù)據(jù)庫(kù)之一,PostgresSQL 13是目前的最新版
    的頭像 發(fā)表于 10-10 09:56 ?1768次閱讀

    多層面分析 etcd 與 PostgreSQL數(shù)據(jù)存儲(chǔ)方案的差異

    PostgreSQL 的實(shí)現(xiàn)始于 1986 年,由伯克利大學(xué)的 Michael Stonebraker 教授領(lǐng)導(dǎo)。經(jīng)過幾十年的發(fā)展,PostgreSQL 堪稱目前最先進(jìn)的開源關(guān)系型數(shù)據(jù)庫(kù)。
    發(fā)表于 03-20 11:34 ?320次閱讀

    37年歷史的PostgreSQL數(shù)據(jù)庫(kù)將進(jìn)行重大架構(gòu)變更

    其中簡(jiǎn)要概括了這項(xiàng)遷移所涉及的種種挑戰(zhàn),并低調(diào)地承認(rèn)轉(zhuǎn)化過程“肯定無法通過單一版本徹底完成”。但郵件中沒有提到推動(dòng)這項(xiàng)重大變更的原因,好在隨著討論的進(jìn)行,相關(guān)信息很快得到了補(bǔ)充。正如 Andres
    的頭像 發(fā)表于 06-25 15:54 ?431次閱讀
    37年歷史的<b class='flag-5'>PostgreSQL</b><b class='flag-5'>數(shù)據(jù)</b>庫(kù)將進(jìn)行重大架構(gòu)變更

    PostgreSQL 插件那么多,怎樣管理最高效?

    PostgreSQL 版本與插件耦合的問題,幫助用戶更直觀、更快速地安裝管理數(shù)據(jù)庫(kù)插件。 關(guān)于 PostgreSQL 插件 眾所周知,Postgr
    的頭像 發(fā)表于 06-30 16:21 ?382次閱讀
    <b class='flag-5'>PostgreSQL</b> 插件那么多,怎樣管理最高效?

    PostgreSQL準(zhǔn)確且快速數(shù)據(jù)對(duì)比方法

    MySQL、SQL Server、PostgreSQL、Redis、MongoDB、ClickHouse、Doris 等,可進(jìn)行數(shù)據(jù)庫(kù)間的結(jié)構(gòu)對(duì)比和數(shù)據(jù)對(duì)比。
    的頭像 發(fā)表于 09-12 15:46 ?931次閱讀
    <b class='flag-5'>PostgreSQL</b>準(zhǔn)確且<b class='flag-5'>快速</b>的<b class='flag-5'>數(shù)據(jù)</b>對(duì)比方法

    PostgreSQL中可用的各種數(shù)據(jù)類型

    PostgreSQL是一種功能強(qiáng)大的開源關(guān)系型數(shù)據(jù)庫(kù)管理系統(tǒng),具有廣泛的數(shù)據(jù)類型支持。在本教程中,我們將介紹PostgreSQL中可用的各種數(shù)據(jù)
    的頭像 發(fā)表于 09-19 14:08 ?3863次閱讀

    為什么選擇 PostgreSQL

    認(rèn)識(shí)PostgreSQL PostgreSQL 是一款開源的、高度可擴(kuò)展的關(guān)系型數(shù)據(jù)庫(kù)管理系統(tǒng) (RDBMS)。它由一個(gè)強(qiáng)大的開發(fā)社區(qū)支持,自1996年以來持續(xù)不斷地發(fā)展和改進(jìn)。 它支持高級(jí)功能,如
    的頭像 發(fā)表于 09-30 10:25 ?1224次閱讀