0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

數(shù)據(jù)庫優(yōu)化最有效的方式是什么?

馬哥Linux運維 ? 來源:馬哥Linux運維 ? 2023-02-28 09:46 ? 次閱讀

記得,如果有人問你做數(shù)據(jù)庫優(yōu)化最有效的方式是什么?SQL優(yōu)化、分布式集群、分庫分表!干就完了~ 但上來就考慮分庫分表真的合適么,你對分庫分表又理解多少呢?什么時候分?有幾種分法兒?別想了,快上車!哈哥帶你捋一下分庫分表的額各種玩兒法~記得收藏

首先我們要知道分庫、分表都是干啥的,本文主角還是我們的MySQL為第一視角。首先從字面意思來看:

  • 分庫:由單個數(shù)據(jù)庫實例拆分成多個數(shù)據(jù)庫實例,將數(shù)據(jù)分布到多個數(shù)據(jù)庫實中。


  • 分表:由單張表拆分成多張表,將數(shù)據(jù)劃分到多張表內(nèi)。

要知道,對于大型互聯(lián)網(wǎng)項目,數(shù)據(jù)量級可能不是我們能想到的,每日新增數(shù)據(jù)量過千萬是常有的事兒,想靠單臺MySQL服務(wù)器是不現(xiàn)實的。你項羽再牛B,也頂不住四個隊友掛機?。?!項羽:???

隨著業(yè)務(wù)數(shù)據(jù)量和網(wǎng)站QPS日益增高,對數(shù)據(jù)庫壓力也越來越大,單機版數(shù)據(jù)庫很快會到達(dá)存儲和并發(fā)瓶頸,就需要做數(shù)據(jù)庫性能方面的優(yōu)化,分庫分表采取的是分而治之的策略,分庫目的是減輕單臺MySQL實例存儲壓力及可擴展性,而分表是解決單張表數(shù)據(jù)過大以后查詢的瓶頸問題,坦白說,這些問題也是所有關(guān)系型數(shù)據(jù)庫的“硬傷”。

今天我們就基于常見分庫、分表的策略方式以及場景,來搞清楚我們到底啥時候用的到。常用策略包括:垂直分表、水平分表、垂直分庫、水平分庫。

一、樸實無華的 - 分表

1、垂直分表

垂直分表,或者叫豎著切表,是不是感受到該策略是以字段為依據(jù)的!主要按照字段的活躍性、字段長度,將表中字段拆分到不同的表(主表和擴展表)中。

特點:

  • 每個表的結(jié)構(gòu)都不一樣;
  • 每個表的數(shù)據(jù)也不一樣,
  • 有一個關(guān)聯(lián)字段,一般是主鍵或外鍵,用于關(guān)聯(lián)兄弟表數(shù)據(jù);
  • 所有兄弟表的并集是該表的全量數(shù)據(jù);

場景:

  1. 有幾個字段屬于熱點字段,更新頻率很高,要把這些字段單獨切到一張表里,不然innodb行鎖很惡心的,鎖死你呀~~如用戶表里的余額字段?不,我的余額就很穩(wěn)定,一直是0。。
  2. 有大字段,如text,存儲壓力很大,畢竟innodb數(shù)據(jù)和索引是同一個文件;同時,我又喜歡用SELECT *,你懂得,這磁盤IO消耗的,跟玩兒似的,誰都扛不住的。
  3. 有明顯的業(yè)務(wù)區(qū)分,或表結(jié)構(gòu)設(shè)計時字段冗余;有些小伙伴看到第一點時,就發(fā)現(xiàn)陳哈哈是個菜雞,用戶表怎么會有余額字段?明顯有問題?。≮s緊先到評論區(qū)噴陳哈哈一波~~然后笑嘻嘻的發(fā)現(xiàn)原來是個小尾巴,真不要臉是吧。。是的,因此不同業(yè)務(wù)我們要把具體字段拆開,這樣才有利于業(yè)務(wù)后續(xù)擴展哦。

2、水平分表

水平分表,也叫“橫著切”。。以行數(shù)據(jù)為依據(jù)進(jìn)行切分,一般按照某列的自容進(jìn)行切分。

手機號表,我們可以通過前兩位或前三位進(jìn)行切分,如131、132、133 → phone_131、phone_132、phone_133,手機號有11位(100億),量大是很正常的事兒,這年頭誰家老頭老太太每個手機呢是吧。這樣切就把一張大表切成了好幾十張小表,數(shù)據(jù)量不就下來了。有同學(xué)就問了那我怎么知道我這手機號查哪個表呢?一看你就沒認(rèn)真看前兩行標(biāo)紅的點,為啥標(biāo)紅嘞?比如我查13100001111,那我截取前三位,動態(tài)拼接到查詢的表名上,就行了。

特點:

  • 每個表的結(jié)構(gòu)都一樣;
  • 每個表的數(shù)據(jù)都不一樣,沒有交集;
  • 所有表的并集是該表的全量數(shù)據(jù);

場景:單表的數(shù)據(jù)量過大或增長速度很快,已經(jīng)影響或即將會影響SQL查詢效率,加重了CPU負(fù)擔(dān),提前到達(dá)瓶頸。記得水平分表越早越好,別問我為什么。。

二、花里胡哨的 - 分庫

需要你注意的是,傳統(tǒng)的分庫和我們熟悉的集群、主從復(fù)制可不是一個事兒;多節(jié)點集群是將一個庫復(fù)制成N個庫,從而通過讀寫分離實現(xiàn)多個MySQL服務(wù)的負(fù)載均衡,實際是圍繞一個庫來搞的,這個庫稱為Master主庫。而分庫就不同了,分庫是將這個主庫一分為N,比如一分為二,然后針對這兩個主庫,再配置2N個從庫節(jié)點。

3、垂直分庫

縱向切庫,太經(jīng)典的切分方式,基于表進(jìn)行切分,通常是把新的業(yè)務(wù)模塊或集成公共模塊拆分出去,比如我們最熟悉的單點登錄、鑒權(quán)模塊。熟悉的味道,記得有一次我把一些沒用的表切到一個性能很好的服務(wù)器中,這服務(wù)器我專門用來學(xué)習(xí),后來也不知被哪個狗腿子告密了~ 我你個,有種站出來,你個**東西。

47557db0-b2fc-11ed-bfe3-dac502259ad0.png

特點:

  • 每個庫的表都不一樣;
  • 表不一樣,數(shù)據(jù)就更不一樣了~ 沒有任何交集;
  • 每個庫相對獨立,模塊化

場景:可以抽象出單獨的業(yè)務(wù)模塊時,可以抽象出公共區(qū)時(如字典、公共時間、公共配置等),或者想有一臺屬于自己的服務(wù)器時?

4、水平分庫

以行數(shù)據(jù)為依據(jù),將一個庫中的數(shù)據(jù)拆分到多個庫中。大型分表體驗一下?坦白說這種策略并不實用,因為會對后臺開發(fā)很不友好,有很多坑,不建議采用,理解即可。

特點:

  • 每個庫的結(jié)構(gòu)都一樣;
  • 每個庫的數(shù)據(jù)都不一樣,沒有交集;
  • 所有庫的并集是全量數(shù)據(jù);

場景:系統(tǒng)絕對并發(fā)量上來了,CPU內(nèi)存壓力大。分表難以根本上解決量的問題,并且還沒有明顯的業(yè)務(wù)歸屬來垂直分庫,主庫磁盤接近飽和。

總結(jié)

本文就到這里,希望你學(xué)廢了!其實,在實際工作中,我們在選擇分庫分表策略前,想到的應(yīng)該是從緩存、讀寫分離、SQL優(yōu)化等方面,因為這些能夠更直接、代價更小的解決問題。要記住動表就是動根本,你永遠(yuǎn)不知道這張表后面會連帶多少歷史遺留問題,如果是個很大型的項目,遇到些問題你就跟經(jīng)理提議要分庫分表,小心被呼死~

好了,多了就不說了,我勸你耗子尾汁,但推薦你關(guān)注我,因為我會讓你在快樂中學(xué)會很多東西!

審核編輯 :李倩


聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 結(jié)構(gòu)
    +關(guān)注

    關(guān)注

    1

    文章

    117

    瀏覽量

    21556
  • 數(shù)據(jù)庫
    +關(guān)注

    關(guān)注

    7

    文章

    3752

    瀏覽量

    64229
  • MySQL
    +關(guān)注

    關(guān)注

    1

    文章

    797

    瀏覽量

    26399

原文標(biāo)題:老大讓我優(yōu)化數(shù)據(jù)庫,我上來就分庫分表,他過來就是一jio

文章出處:【微信號:magedu-Linux,微信公眾號:馬哥Linux運維】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    數(shù)據(jù)庫SQL的優(yōu)化

    數(shù)據(jù)庫執(zhí)行SQL都會先進(jìn)行語義解析,然后將SQL分成一步一步可執(zhí)行的計劃,然后逐步執(zhí)行。通過分析執(zhí)行計劃,我們可以清晰的看到數(shù)據(jù)庫執(zhí)行的操作,這對于數(shù)據(jù)庫SQL的優(yōu)化具有重大意義。 1
    的頭像 發(fā)表于 10-09 15:43 ?1004次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b>SQL的<b class='flag-5'>優(yōu)化</b>

    基于數(shù)據(jù)庫查詢過程優(yōu)化設(shè)計

    在大型關(guān)系數(shù)據(jù)庫管理與開發(fā)中,優(yōu)化設(shè)計極大地提高數(shù)據(jù)庫的性能。通過對一大型數(shù)據(jù)庫查詢語句執(zhí)行過程的討論,提出了對同一表格進(jìn)行多個選擇運算的優(yōu)化
    發(fā)表于 02-27 16:05 ?18次下載

    數(shù)據(jù)庫筆記

    可以有效的學(xué)習(xí)sql數(shù)據(jù)庫,可以順利編寫一種sql數(shù)據(jù)庫
    發(fā)表于 06-20 17:48 ?0次下載

    如何優(yōu)化數(shù)據(jù)庫負(fù)載

    摘要:一個前端開發(fā)者介紹了他和他的數(shù)據(jù)庫朋友們是如何降低基于Ruby網(wǎng)站數(shù)據(jù)庫負(fù)載的故事。以下為譯文: 數(shù)據(jù)庫負(fù)載可能是個沉默的性能殺手。我一直都在優(yōu)化我的一個網(wǎng)站應(yīng)用,用來吸引人們參
    發(fā)表于 09-28 16:32 ?0次下載

    提高Oracle的數(shù)據(jù)庫性能

    問題。通過優(yōu)化SQL語句效率、擴充高級緩沖區(qū)和配置重做日志緩沖區(qū)等幾個方面介紹了Oracle數(shù)據(jù)庫優(yōu)化方法,探討了OraCle如何提高性能優(yōu)化的措施。通過測試Oracle查詢結(jié)果表明,
    發(fā)表于 11-11 18:16 ?4次下載

    醫(yī)院SQL數(shù)據(jù)庫系統(tǒng)語句優(yōu)化

    本文就如何優(yōu)化大型數(shù)據(jù)庫的性能進(jìn)行了一些探索,提出了優(yōu)化數(shù)據(jù)庫訪問性能的若干策略,特別是對SQL語句進(jìn)行了有效的分析設(shè)計的問題,以使其加快執(zhí)
    的頭像 發(fā)表于 02-17 20:26 ?5284次閱讀

    基于Greenplum數(shù)據(jù)庫的查詢優(yōu)化

    針對分布式數(shù)據(jù)庫查詢效率隨著數(shù)據(jù)規(guī)模的增大而降低的問題,以Greenplum分布式數(shù)據(jù)庫為研究對象,從優(yōu)化查詢路徑的角度提出一個基于代價的最優(yōu)查詢計劃生成方法。首先,該方法設(shè)計一種
    發(fā)表于 03-29 17:46 ?0次下載

    專訪阿里數(shù)據(jù)庫備份專家 教你pick最有效的備份系統(tǒng)

    摘要:?數(shù)據(jù)庫備份是個老生常談的話題,看似很簡單,但在實際操作過程中,運維人員往往會遇到這樣或那樣的坑。那么,如今的數(shù)據(jù)庫備份有哪些挑戰(zhàn)?如何構(gòu)建有效備份系統(tǒng)?有什么解決辦法?數(shù)據(jù)庫
    發(fā)表于 08-20 14:43 ?229次閱讀

    數(shù)據(jù)庫的設(shè)計資料概述

    數(shù)據(jù)庫設(shè)計是指對于一個給定的應(yīng)用環(huán)境,構(gòu)造(設(shè)計)優(yōu)化數(shù)據(jù)庫邏輯模式和物理結(jié)構(gòu),并據(jù)此建立數(shù)據(jù)庫及其應(yīng)用系統(tǒng),使之能夠有效地存儲和管理
    發(fā)表于 03-12 15:49 ?10次下載
    <b class='flag-5'>數(shù)據(jù)庫</b>的設(shè)計資料概述

    數(shù)據(jù)庫和自建數(shù)據(jù)庫的區(qū)別及應(yīng)用

    數(shù)據(jù)庫是指優(yōu)化和部署在云端的數(shù)據(jù)庫,阿里云和騰訊云都提供云數(shù)據(jù)庫,云數(shù)據(jù)庫和自己搭建的數(shù)據(jù)庫
    的頭像 發(fā)表于 11-20 16:26 ?4559次閱讀
    云<b class='flag-5'>數(shù)據(jù)庫</b>和自建<b class='flag-5'>數(shù)據(jù)庫</b>的區(qū)別及應(yīng)用

    數(shù)據(jù)庫索引使用策略及優(yōu)化

    的內(nèi)容完全基于上文的理論基礎(chǔ),實際上一旦理解了索引背后的機制,那么選擇高性能的策略就變成了純粹的推理,并且可以理解這些策略背后的邏輯。 示例數(shù)據(jù)庫 為了討論索引策略,需要一個數(shù)據(jù)量不算小的數(shù)據(jù)庫作為示例。本文選用MySQL官方文
    的頭像 發(fā)表于 11-02 15:13 ?1675次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b>索引使用策略及<b class='flag-5'>優(yōu)化</b>

    MySQL數(shù)據(jù)庫性能優(yōu)化的意義及其措施

    數(shù)據(jù)庫性能優(yōu)化的常見手段有很多,比如添加索引、分庫分表、優(yōu)化連接池等
    的頭像 發(fā)表于 02-03 14:12 ?1231次閱讀

    什么是向量數(shù)據(jù)庫?關(guān)系數(shù)據(jù)庫和向量數(shù)據(jù)庫之間的區(qū)別是什么?

    向量數(shù)據(jù)庫是一種以向量嵌入(高維向量)方式存儲和管理非結(jié)構(gòu)化數(shù)據(jù)(如文本、圖像或音頻)的數(shù)據(jù)庫,以便于快速查找和檢索類似對象。
    的頭像 發(fā)表于 08-16 10:13 ?2334次閱讀
    什么是向量<b class='flag-5'>數(shù)據(jù)庫</b>?關(guān)系<b class='flag-5'>數(shù)據(jù)庫</b>和向量<b class='flag-5'>數(shù)據(jù)庫</b>之間的區(qū)別是什么?

    數(shù)據(jù)庫應(yīng)用及其特點 數(shù)據(jù)庫數(shù)據(jù)的基本特點

    和管理的一項重要應(yīng)用,其優(yōu)點不僅可以提高工作效率,還可以保證數(shù)據(jù)的安全性和可靠性。本文將詳細(xì)介紹數(shù)據(jù)庫應(yīng)用及其特點,同時探討數(shù)據(jù)庫數(shù)據(jù)的基本特點。 一、
    的頭像 發(fā)表于 08-28 17:22 ?2692次閱讀

    數(shù)據(jù)庫優(yōu)化那些事

    我們出去面試經(jīng)常會被問到數(shù)據(jù)庫這一塊,而涉及數(shù)據(jù)庫這一塊問的最多的就是數(shù)據(jù)庫優(yōu)化。那么我們怎么做才能做好優(yōu)化問題呢?今天我們就來聊聊
    的頭像 發(fā)表于 10-08 11:49 ?558次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>優(yōu)化</b>那些事