0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

微服務(wù)架構(gòu)下分布式數(shù)據(jù)庫(kù)如何支撐千億級(jí)數(shù)據(jù)

電子工程師 ? 來源:未知 ? 2019-04-20 11:50 ? 次閱讀

如今,大型企業(yè)的應(yīng)用平臺(tái)正在向微服務(wù)架構(gòu)進(jìn)行轉(zhuǎn)型。在微服務(wù)架構(gòu)下,應(yīng)用程序和數(shù)據(jù)庫(kù)等底層平臺(tái)的關(guān)系將會(huì)被重構(gòu)。

作為新一代分布式數(shù)據(jù)庫(kù),其架構(gòu)與功能特性需要保證在與傳統(tǒng)數(shù)據(jù)庫(kù)全兼容的基礎(chǔ)上,擁抱微服務(wù)與云計(jì)算框架。因此,分布式數(shù)據(jù)庫(kù)對(duì)于分布式交易與ACID必須保證與傳統(tǒng)技術(shù)完全兼容。同時(shí),在面向微服務(wù)應(yīng)用開發(fā)與云計(jì)算基礎(chǔ)架構(gòu)時(shí),新一代分布式數(shù)據(jù)庫(kù)必須支持彈性擴(kuò)張、資源隔離、多租戶、可配置一致性、多模式(支持各類SQL協(xié)議)、集群內(nèi)可配置容災(zāi)策略等一系列功能。

傳統(tǒng)單點(diǎn)數(shù)據(jù)庫(kù)的容量瓶頸,僅僅是分布式數(shù)據(jù)庫(kù)所解決的問題之一。更重要的是在未來微服務(wù)化應(yīng)用開發(fā)以及云化平臺(tái)的趨勢(shì)下,應(yīng)用不再以“煙囪式”的中間件加數(shù)據(jù)庫(kù)模式進(jìn)行構(gòu)建,而是采用數(shù)千甚至上萬的微服務(wù)程序構(gòu)建成的復(fù)雜網(wǎng)狀模型。因此,分布式數(shù)據(jù)庫(kù)需要滿足以下能力,才能夠滿足上層應(yīng)用的彈性擴(kuò)展、高并發(fā)、高吞吐量、與靈活敏捷的需求。

在這些技術(shù)需求驅(qū)動(dòng)下,分布式數(shù)據(jù)庫(kù)核心技術(shù)能力分為兩個(gè)方面,一方面是對(duì)傳統(tǒng)技術(shù)的兼容,包括:

完整的ACID支持,事務(wù)和一致性保證;

SQL的完整支持,傳統(tǒng)數(shù)據(jù)庫(kù)如MySQL/PostgreSQL的語法完全兼容。

另一方面,則是技術(shù)創(chuàng)新,包括:

分布式與擴(kuò)展性,應(yīng)對(duì)數(shù)據(jù)量的變化,實(shí)現(xiàn)存儲(chǔ)層和計(jì)算層的彈性擴(kuò)展;

多模式訪問接口,支持多類型數(shù)據(jù)管理和多種模式的訪問接口;

HTAP交易/分析混合處理能力,復(fù)雜業(yè)務(wù)需求下,實(shí)現(xiàn)數(shù)據(jù)的物理隔離,互不干擾。

作為一款金融級(jí)分布式關(guān)系型數(shù)據(jù)庫(kù),SequoiaDB巨杉數(shù)據(jù)庫(kù)的分布式數(shù)據(jù)庫(kù)架構(gòu)和面向微服務(wù)的云化產(chǎn)品形態(tài),已經(jīng)幫助包括民生銀行、恒豐銀行在內(nèi)的多家大型金融客戶實(shí)現(xiàn)了大量業(yè)務(wù)系統(tǒng)的底層數(shù)據(jù)庫(kù)云化轉(zhuǎn)型升級(jí)。

目前,巨杉數(shù)據(jù)庫(kù)在銀行生產(chǎn)系統(tǒng)單機(jī)群最大物理節(jié)點(diǎn)數(shù)達(dá)到135個(gè),單集群最大存儲(chǔ)容量超過2.1 PB,單集群最大管理數(shù)據(jù)條數(shù)1318億條。

SequoiaDB巨杉數(shù)據(jù)庫(kù)作為一款金融級(jí)的分布式關(guān)系型數(shù)據(jù)庫(kù),在企業(yè)客戶云化架構(gòu)轉(zhuǎn)型過程中,提供了多種重要技術(shù)能力。

數(shù)據(jù)存儲(chǔ)資源池化

SequoiaDB數(shù)據(jù)存儲(chǔ)引擎采用原生分布式架構(gòu),數(shù)據(jù)完全打散在分布式節(jié)點(diǎn)間存儲(chǔ),自動(dòng)化數(shù)據(jù)分布和管理,數(shù)據(jù)可以按需靈活擴(kuò)展。

SequoiaDB采用分片技術(shù)為系統(tǒng)提供了橫向擴(kuò)展機(jī)制,其分片過程對(duì)于應(yīng)用程序來說完全透明。該機(jī)制解決了單臺(tái)服務(wù)器硬件資源(如內(nèi)存、CPU、磁盤 I/O)受限的問題,并不會(huì)增加應(yīng)用程序開發(fā)的復(fù)雜性。巨杉數(shù)據(jù)庫(kù)通過原生分布式架構(gòu),可以輕松實(shí)現(xiàn)PB級(jí)別數(shù)據(jù)管理,目前生產(chǎn)環(huán)境最大支持超過1500個(gè)節(jié)點(diǎn)集群。

SequoiaDB巨杉數(shù)據(jù)庫(kù)存儲(chǔ)引擎也實(shí)現(xiàn)了multi-model多模數(shù)據(jù)管理,支持非結(jié)構(gòu)化、結(jié)構(gòu)化和半結(jié)構(gòu)化數(shù)據(jù)全覆蓋并統(tǒng)一管理。SequoiaDB的多模引擎設(shè)計(jì)讓數(shù)據(jù)庫(kù)平臺(tái)場(chǎng)景更多樣,也能符合云數(shù)據(jù)架構(gòu)下對(duì)于多樣化業(yè)務(wù)數(shù)據(jù)的統(tǒng)一管理與運(yùn)維要求。

同時(shí),在一個(gè)大型集群中,SequoiaDB提供了多維度、多層級(jí)的邏輯與物理隔離能力。在一個(gè)典型的數(shù)據(jù)資源池類型基礎(chǔ)數(shù)據(jù)服務(wù)平臺(tái)(DBaas,DataBase As A Service)中,SequoiaDB巨杉數(shù)據(jù)庫(kù)能夠同時(shí)服務(wù)于成百上千個(gè)不同SLA服務(wù)級(jí)別、優(yōu)先級(jí)、業(yè)務(wù)特性、與數(shù)據(jù)量的應(yīng)用程序,并保證應(yīng)用程序之間的數(shù)據(jù)邏輯與物理隔離。

SequoiaDB提供的“數(shù)據(jù)域(Domain)”特性,能夠?qū)⒄麄€(gè)集群在物理設(shè)備層面進(jìn)行隔離,確保不同的表、表空間、與數(shù)據(jù)庫(kù)實(shí)例坐落于獨(dú)立的硬件設(shè)備上,保證高優(yōu)先級(jí)的聯(lián)機(jī)交易應(yīng)用與后臺(tái)統(tǒng)計(jì)分析相互隔離互不干擾。

數(shù)據(jù)庫(kù)實(shí)例化

SequoiaDB巨杉數(shù)據(jù)庫(kù)支持?jǐn)?shù)據(jù)庫(kù)服務(wù)實(shí)例化。

針對(duì)微服務(wù)應(yīng)用架構(gòu),用戶可以在同一個(gè)集群中創(chuàng)建成百上千個(gè)不同的關(guān)系型數(shù)據(jù)庫(kù)實(shí)例。數(shù)據(jù)庫(kù)實(shí)例的訪問與使用方式和傳統(tǒng)關(guān)系型數(shù)據(jù)庫(kù)100%兼容,同時(shí)其底層所使用的數(shù)據(jù)從邏輯上完全獨(dú)立,每個(gè)實(shí)例擁有自己獨(dú)立的權(quán)限管理、數(shù)據(jù)管控、甚至可以選擇部署在獨(dú)立的硬件環(huán)境或共享設(shè)備中。

目前SequoiaDB巨杉數(shù)據(jù)庫(kù)支持用戶創(chuàng)建 MySQL、PostgreSQL 與 SparkSQL 實(shí)例,同時(shí)還提供了JSON、S3對(duì)象存儲(chǔ)以及Posix文件系統(tǒng)實(shí)例,充分滿足用戶對(duì)于結(jié)構(gòu)化、半結(jié)構(gòu)化、以及非結(jié)構(gòu)化數(shù)據(jù)的需求。

從應(yīng)用程序開發(fā)者與DBA的角度看,SequoiaDB巨杉數(shù)據(jù)庫(kù)所提供的關(guān)系型數(shù)據(jù)庫(kù)實(shí)例,與傳統(tǒng)MySQL、PostgreSQL和SparkSQL保持全兼容。例如,在SequoiaDB巨杉數(shù)據(jù)庫(kù)中的MySQL實(shí)例中,其所有的增刪改查語法、視圖、觸發(fā)器、事務(wù)、甚至訪問計(jì)劃都與傳統(tǒng)MySQL保持一致。

作為分布式數(shù)據(jù)庫(kù),SequoiaDB巨杉數(shù)據(jù)庫(kù)的SQL實(shí)例用戶不需要關(guān)心底層的數(shù)據(jù)到底被分散在一臺(tái)還是多臺(tái)設(shè)備中。用戶可以簡(jiǎn)單創(chuàng)建一個(gè)分區(qū)表,向其中寫入上億條記錄,其數(shù)據(jù)將會(huì)被自動(dòng)分散在不同的物理設(shè)備中,對(duì)于應(yīng)用程序根本無需關(guān)注分庫(kù)分表,數(shù)據(jù)庫(kù)自動(dòng)提供分布式事務(wù)以及分布式訪問等能力。

雙活容災(zāi)與數(shù)據(jù)安全

雙活容災(zāi)即災(zāi)備系統(tǒng)中使主生產(chǎn)端數(shù)據(jù)庫(kù)和備機(jī)端數(shù)據(jù)庫(kù)同時(shí)在線運(yùn)行,處于可讀可寫狀態(tài)的技術(shù)。在銀行的交易系統(tǒng)中,雙活容災(zāi)能力不僅保證數(shù)據(jù)不丟失,也保證系統(tǒng)在遭遇事故時(shí)能夠短時(shí)間內(nèi)重新上線。在正常情況下,雙活架構(gòu)的兩個(gè)數(shù)據(jù)中心都能夠同時(shí)提供業(yè)務(wù)的讀寫服務(wù),而當(dāng)一個(gè)中心宕機(jī)后,所有前端應(yīng)用可以立刻切換至依然存活的數(shù)據(jù)中心繼續(xù)使用。

SequoiaDB巨杉數(shù)據(jù)庫(kù)在內(nèi)核層面實(shí)現(xiàn)了多種容災(zāi)方式,包括同城雙活、同城雙中心、同城三中心、兩地三中心、與三地五中心等容災(zāi)策略。通過使用SequoiaDB巨杉數(shù)據(jù)庫(kù)的容災(zāi)與高可用機(jī)制,數(shù)據(jù)中心內(nèi)的服務(wù)器故障可以保證RTO與RPO均為零,而整個(gè)數(shù)據(jù)中心或同城網(wǎng)絡(luò)故障也可以做到秒級(jí)RTO、RPO=0。

關(guān)于SequoiaDB巨杉數(shù)據(jù)庫(kù)

巨杉數(shù)據(jù)庫(kù)專注新一代分布式數(shù)據(jù)庫(kù)技術(shù)研發(fā),自2011年成立以來,堅(jiān)持從零開始打造分布式開源數(shù)據(jù)庫(kù)引擎,是中國(guó)首家連續(xù)兩年入選 Gartner 數(shù)據(jù)庫(kù)報(bào)告的數(shù)據(jù)庫(kù)廠商

巨杉數(shù)據(jù)庫(kù)的主要產(chǎn)品包括 SequoiaDB 分布式關(guān)系型數(shù)據(jù)庫(kù)與 SequoiaCM 企業(yè)內(nèi)容管理軟件,企業(yè)級(jí)應(yīng)用場(chǎng)景包括分布式在線交易、數(shù)據(jù)中臺(tái)、分布式內(nèi)容管理等。

目前巨杉數(shù)據(jù)庫(kù)已在超過50家500強(qiáng)級(jí)別的大型商業(yè)銀行核心生產(chǎn)業(yè)務(wù)上線,企業(yè)用戶總數(shù)超過1000家。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • SQL
    SQL
    +關(guān)注

    關(guān)注

    1

    文章

    750

    瀏覽量

    43900
  • 數(shù)據(jù)庫(kù)
    +關(guān)注

    關(guān)注

    7

    文章

    3711

    瀏覽量

    64021
  • 大數(shù)據(jù)
    +關(guān)注

    關(guān)注

    64

    文章

    8805

    瀏覽量

    136989

原文標(biāo)題:微服務(wù)架構(gòu)下,分布式數(shù)據(jù)庫(kù)如何支撐千億級(jí)數(shù)據(jù)?

文章出處:【微信號(hào):DBDevs,微信公眾號(hào):數(shù)據(jù)分析與開發(fā)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    小白求教:labview連接分布式數(shù)據(jù)庫(kù)

    我用Hadoop搭建了一個(gè)分布式數(shù)據(jù)庫(kù),想讓labview作為client向數(shù)據(jù)庫(kù)中寫數(shù)據(jù),應(yīng)該怎么實(shí)現(xiàn)啊
    發(fā)表于 12-13 10:18

    2017雙11技術(shù)揭秘—X-DB支撐雙11進(jìn)入分布式數(shù)據(jù)庫(kù)時(shí)代

    11X-DB服務(wù)于天貓/淘寶核心交易系統(tǒng)、核心物流系統(tǒng)、核心IM系統(tǒng),經(jīng)受了零點(diǎn)業(yè)務(wù)32.5萬筆/秒峰值的性能考驗(yàn)(對(duì)應(yīng)數(shù)據(jù)庫(kù)峰值每秒破億次的SQL調(diào)用);同時(shí)X-DB支撐起了新一代單元化架構(gòu)
    發(fā)表于 12-29 15:06

    一行代碼,保障分布式事務(wù)一致性—GTS:微服務(wù)架構(gòu)分布式事務(wù)解決方案

    故障問題。單體應(yīng)用拆分所導(dǎo)致的數(shù)據(jù)庫(kù)架構(gòu)的拆分。應(yīng)用更新多個(gè)業(yè)務(wù)記錄非常常見,單體應(yīng)用實(shí)現(xiàn)也比較簡(jiǎn)單。然而在微服務(wù)架構(gòu),應(yīng)用不得不調(diào)用多個(gè)
    發(fā)表于 06-05 19:14

    分布式數(shù)據(jù)庫(kù)有什么優(yōu)缺點(diǎn)?

    分布式數(shù)據(jù)庫(kù)系統(tǒng)(DDBS)是數(shù)據(jù)庫(kù)技術(shù)和網(wǎng)絡(luò)技術(shù)兩者相互滲透和有機(jī)結(jié)合的結(jié)果。涉及數(shù)據(jù)庫(kù)基本理論和網(wǎng)絡(luò)通信理論。分布式數(shù)據(jù)庫(kù)由一組數(shù)據(jù)組成
    發(fā)表于 09-24 09:13

    HarmonyOS分布式數(shù)據(jù)庫(kù),為啥這么牛?

    管理三大核心技術(shù)同樣有著出色的性能表現(xiàn)。 和對(duì)應(yīng)的競(jìng)品對(duì)比,HarmonyOS 分布式數(shù)據(jù)庫(kù)服務(wù)性能優(yōu)于安卓的 ContentProvider,同時(shí),跨設(shè)備 E2E 同步 1KB 數(shù)據(jù)只需要 25ms
    發(fā)表于 11-19 15:38

    【木棉花】分布式數(shù)據(jù)庫(kù)

    學(xué)習(xí)筆記–沈泳鑫,因?yàn)?b class='flag-5'>分布式數(shù)據(jù)庫(kù)和輕量級(jí)數(shù)據(jù)庫(kù)之間是有很多相識(shí)之處的。為了更好地熟練掌握鴻蒙手機(jī)應(yīng)用開發(fā),為了供大家更方便的學(xué)習(xí)鴻蒙手機(jī)的應(yīng)用開發(fā),我會(huì)將所有的筆記都整理
    發(fā)表于 09-05 10:43

    請(qǐng)問一HarmonyOS的分布式數(shù)據(jù)庫(kù)是存在每個(gè)設(shè)備上的嗎

    請(qǐng)問一HarmonyOS的分布式數(shù)據(jù)庫(kù)是存在每個(gè)設(shè)備上的嗎?數(shù)據(jù)同步時(shí)數(shù)據(jù)又是怎么存儲(chǔ)的?求解答
    發(fā)表于 03-18 11:14

    分布式數(shù)據(jù)庫(kù)系統(tǒng)及其應(yīng)用 PDF

    分布式數(shù)據(jù)庫(kù)系統(tǒng)是計(jì)算機(jī)網(wǎng)絡(luò)技術(shù)與數(shù)據(jù)庫(kù)技術(shù)互相滲透和有機(jī)結(jié)合的產(chǎn)物,它主要研究在計(jì)算機(jī)網(wǎng)絡(luò)上如何進(jìn)行數(shù)據(jù)分布和處理。    《
    發(fā)表于 09-26 23:18 ?0次下載
    <b class='flag-5'>分布式數(shù)據(jù)庫(kù)</b>系統(tǒng)及其應(yīng)用 PDF

    基于分布式數(shù)據(jù)庫(kù)技術(shù)的森林防火指揮系統(tǒng)的研究

    隨著信息技術(shù)的發(fā)展,分布式數(shù)據(jù)庫(kù)技術(shù)的應(yīng)用越來越廣泛。本文將分布式數(shù)據(jù)庫(kù)技術(shù)應(yīng)用于森林防火指揮系統(tǒng)中,討論如何利用分布式數(shù)據(jù)庫(kù)技術(shù)使得林業(yè)資源地圖,表和數(shù)據(jù)
    發(fā)表于 09-11 16:52 ?13次下載

    基于分布式數(shù)據(jù)庫(kù)系統(tǒng)的數(shù)據(jù)分配模型研究

    提出一種基于分布式數(shù)據(jù)庫(kù)數(shù)據(jù)分配策略問題,數(shù)據(jù)分配得好對(duì)整個(gè)應(yīng)用系統(tǒng)的改進(jìn)、數(shù)據(jù)的可用性、提高分布式數(shù)據(jù)庫(kù)(DDB)的效率和可靠性有很大影
    發(fā)表于 02-28 19:33 ?14次下載

    分布式數(shù)據(jù)庫(kù),什么是分布式數(shù)據(jù)庫(kù)

    分布式數(shù)據(jù)庫(kù),什么是分布式數(shù)據(jù)庫(kù) 分布式數(shù)據(jù)庫(kù)系統(tǒng)是在集中式數(shù)據(jù)庫(kù)系統(tǒng)成熟技術(shù)的基礎(chǔ)上發(fā)展起來的,但不是簡(jiǎn)單地把集中式數(shù)
    發(fā)表于 03-18 15:25 ?3970次閱讀

    為什么我們需要分布式數(shù)據(jù)庫(kù)

    to be database systems.)” 數(shù)據(jù)庫(kù)系統(tǒng)經(jīng)過幾十年演進(jìn)后,分布式數(shù)據(jù)庫(kù)在近幾年發(fā)展如火如荼,國(guó)內(nèi)外出現(xiàn)了很多分布式數(shù)據(jù)庫(kù)創(chuàng)業(yè)公司,為什么分布式數(shù)據(jù)庫(kù)開始流行?在
    的頭像 發(fā)表于 09-06 10:37 ?2484次閱讀

    數(shù)據(jù)庫(kù)如何走向分布式

    to be database systems.)” 數(shù)據(jù)庫(kù)系統(tǒng)經(jīng)過幾十年演進(jìn)后,分布式數(shù)據(jù)庫(kù)在近幾年發(fā)展如火如荼,國(guó)內(nèi)外出現(xiàn)了很多分布式數(shù)據(jù)庫(kù)創(chuàng)業(yè)公司,為什么分布式數(shù)據(jù)庫(kù)開始流行?在
    的頭像 發(fā)表于 09-24 14:25 ?3866次閱讀
    <b class='flag-5'>數(shù)據(jù)庫(kù)</b>如何走向<b class='flag-5'>分布式</b>

    數(shù)字化轉(zhuǎn)型我國(guó)分布式數(shù)據(jù)庫(kù)應(yīng)用挑戰(zhàn)及發(fā)展建議

    當(dāng)前,金融等重點(diǎn)行業(yè)都在進(jìn)行數(shù)字化轉(zhuǎn)型,而分布式數(shù)據(jù)庫(kù)作為數(shù)據(jù)承載工具,為數(shù)字化轉(zhuǎn)型提供了有力的支撐分布式數(shù)據(jù)庫(kù)近年來發(fā)展迅猛,在產(chǎn)品成熟度上有了很大提升,但在行業(yè)應(yīng)用和生態(tài)建設(shè)上仍
    的頭像 發(fā)表于 06-29 16:45 ?492次閱讀

    **分布式數(shù)據(jù)庫(kù)|數(shù)據(jù)庫(kù)數(shù)據(jù)類型**

    科研機(jī)構(gòu)。分布式數(shù)據(jù)庫(kù)可以留在 Internet、有組織的網(wǎng)絡(luò)服務(wù)器或分散的獨(dú)立計(jì)算機(jī)上的企業(yè)內(nèi)聯(lián)網(wǎng)或外聯(lián)網(wǎng)或其他組織網(wǎng)絡(luò)。 分布式數(shù)據(jù)庫(kù)的主要特點(diǎn)包括: (1) 數(shù)據(jù)分散存儲(chǔ)
    的頭像 發(fā)表于 07-17 13:33 ?497次閱讀