0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

系統(tǒng)上線時SQL腳本的9大坑

jf_78858299 ? 來源:蘇三說技術 ? 作者:蘇三說技術 ? 2023-03-24 14:25 ? 次閱讀

系統(tǒng)上線時,非常容易出問題。

即使之前在測試環(huán)境,已經(jīng)執(zhí)行過SQL腳本了。但是有時候,在系統(tǒng)上線時,在生產(chǎn)環(huán)境執(zhí)行相同的SQL腳本,還是有可能出現(xiàn)一些問題。

有些小公司,SQL腳本是開發(fā)自己執(zhí)行的,有很大的風險。

有些大廠,有專業(yè)的DBA把關,但DBA也不是萬能的,還是有可能會讓一些錯誤的SQL腳本被生產(chǎn)環(huán)境執(zhí)行了,比如:update語句的順序不對。

今天跟大家一起聊聊,系,以便于大家吸取教訓,能夠防微杜漸,希望對你會有所幫助

1 漏腳本了

我們上線時執(zhí)行的SQL腳本,出現(xiàn)次數(shù)最多的問題,應該是漏腳本了。

  • 有時候少加了一個字段。
  • 有時候字段的注釋沒有及時修改。
  • 有時候有些新表沒創(chuàng)建。
  • 有時候字段類型忘了修改。

等等。

我們的SQL腳本中漏腳本的情況有很多。

那么,如何解決這個問題呢?

答:將SQL腳本做成代碼的一部分。在項目的代碼中,創(chuàng)建一個專門的sql目錄,在該目錄下根據(jù)每個迭代創(chuàng)建一個子目錄,比如:mv3.2.1,將SQL腳本存放到mv3.2.1下。

我們在開發(fā)環(huán)境任何對表的相關操作,比如:增加字段、修改字段類型、修改注釋、增加索引、創(chuàng)建表等等,都需要通過SQL語句操作,然后把該SQL語句,整理到SQL腳本中。

最后提交到公司GitLab上,我們在測試環(huán)境和生產(chǎn)環(huán)境發(fā)版時,去GitLab上找相關迭代版本的SQL腳本執(zhí)行。

通過該方式基本可以解決漏腳本的問題。

2 腳本語法錯誤

有些小伙伴看到這個標題可能有點懵,SQL腳本不是已經(jīng)在測試環(huán)境執(zhí)行過了嗎?為什么還會出現(xiàn)語法錯誤?

比如說有這樣的場景:原本你的SQL腳本沒問題的,但沒有按照規(guī)范,給一張表的添加多個字段,你寫了多條ALTER語句。

例如:

alter table t_user add column  `work` varchar(30) DEFAULT NULL COMMENT '工作';
alter table t_user add column  `provice` varchar(10) DEFAULT NULL  COMMENT '籍貫';

在上線時,你給DBA提SQL工單時,該工單被DBA審核拒絕打回來了。

然后為了趕時間,你急急忙忙把多條ALTER語句改成一條ALTER語句。

例如:

alter table t_user add `work` varchar(30) DEFAULT NULL COMMENT '工作',
add `provice` varchar(10) DEFAULT NULL  COMMENT '籍貫';

但在修改的過程中,有地方少了一個逗號,就可能會出現(xiàn)SQL語法錯誤。

因此,不管是什么SQL語句,要養(yǎng)成好習慣,只要修改了一定要記得到開發(fā)環(huán)境的數(shù)據(jù)庫中,先執(zhí)行測試一下,切勿直接提到生產(chǎn)環(huán)境,即使你有很大的把握,也需要再更慎重一些。

這樣基本可以避免SQL語法錯誤的問題。

3 腳本順序不對

有些時候,我們在上線系統(tǒng)時,DBA在執(zhí)行SQL腳本的時候,沒有報錯,但最后的數(shù)據(jù)就是不對。

有可能是腳本順序不對導致的。

比如有這樣一種場景:你往某張表通過insert初始化了一條數(shù)據(jù)。

例如:

INSERT INTO `sue`.`t_user`(`id`, `code`, `age`, `name`, `height`, `address`, `work`, `provice`) VALUES (1, '101', 21, '周星馳', 173, '香港', NULL, NULL);

另外一個人要基于你這條數(shù)據(jù),通過update修改數(shù)據(jù)。

例如:

update t_user set age=25 where id=1;

你們提了兩條SQL腳本。

另外一個人先提的,你后提的。

DBA先把他的SQL工單審核通過了,先update數(shù)據(jù),此時通過id是沒法找到那條數(shù)據(jù)的,影響行數(shù)為0。

然后DBA再審核你的SQL工單,審核通過了,插入了一條數(shù)據(jù)。

由于SQL腳本的順序不對,導致最終系統(tǒng)上線時的數(shù)據(jù)不對。

那么這個問題要如何解決呢?

雙方要事先溝通好,把另外一個同事的SQL腳本加到你的初始化腳本中,你的腳本在初始化時,直接去修改數(shù)據(jù)即可。

例如:

INSERT INTO `sue`.`t_user`(`id`, `code`, `age`, `name`, `height`, `address`, `work`, `provice`) VALUES (1, '101', 25, '周星馳', 173, '香港', NULL, NULL);

這樣可以避免執(zhí)行順序問題。

4 執(zhí)行時機不對

有些系統(tǒng)功能已經(jīng)上線了,在后面的迭代中,為了盡量避免少影響線上功能,可以增加一個pre(即預生產(chǎn)環(huán)境)。

該環(huán)境跟生產(chǎn)環(huán)境是差不多的,連接了相同的數(shù)據(jù)庫,使用了相同的apollo配置。

但唯一的區(qū)別是pre環(huán)境沒有實際的用戶流量,只能公司內部人員才能訪問。

一般在迭代版本上線之前,先要把系統(tǒng)功能發(fā)布到pre環(huán)境中,測試通過之后,才能發(fā)布到prod(即生產(chǎn)環(huán)境)。

但有些SQL腳本,卻沒法再pre環(huán)境中執(zhí)行,不然會影響生產(chǎn)環(huán)境。

比如:修改了字段類型,int改成varchar了,或者初始化數(shù)據(jù)時,初始化了一條新加的枚舉數(shù)據(jù)。

由于pre環(huán)境是運行的最新代碼,但prod環(huán)境還是運行的老代碼。

如果在發(fā)布pre環(huán)境時,直接執(zhí)行SQL腳本,可能會導致prod環(huán)境的功能異常。

因此要搞清楚SQL腳本的執(zhí)行時機,哪些是要在pre環(huán)境執(zhí)行的,哪些是要在prod環(huán)境執(zhí)行的。

我們在提SQL工單時,千萬不要一股腦就提了,一定要區(qū)分時機。

在發(fā)pre環(huán)境時,要么不提發(fā)prod環(huán)境的SQL腳本。要么,在工單的名稱上做區(qū)分,比如增加prod_開頭的標識。

這樣可以解決SQL腳本執(zhí)行時機的問題。

5 搞錯數(shù)據(jù)庫了

有時候,我們的數(shù)據(jù)庫做了分庫分表,或者增加備份庫。

在執(zhí)行SQL腳本的時候,由于我們自己的疏忽,提SQL工單時選錯數(shù)據(jù)庫了,或者DBA的疏忽,在執(zhí)行SQL工單時搞錯數(shù)據(jù)庫了,就會出現(xiàn)問題。

建議我們的SQL腳本增加庫名,比如:

alter table sue.t_user add `work` varchar(30) DEFAULT NULL COMMENT '工作';

這里增加庫名:sue。

這樣基本可以避免選錯數(shù)據(jù)庫的問題。

6 腳本耗時太長

有時候,我們的SQL腳本需要批量修改生產(chǎn)環(huán)境的一些數(shù)據(jù),正常情況下一條update語句就能搞定。

例如:

update user set status=0 where status=1;

但由于user表的數(shù)據(jù)量非常大,我們在執(zhí)行該SQL腳本之前,沒有預先評估該SQL腳本的耗時情況,而選擇直接在生產(chǎn)環(huán)境的數(shù)據(jù)庫中執(zhí)行。

假如該SQL腳本耗時非常長,比如要10分鐘才能執(zhí)行完,可能會導致user表長期鎖表,影響正常的業(yè)務功能。

在該SQL腳本執(zhí)行的過程中,極有可能會出現(xiàn)業(yè)務功能操作,導致的死鎖問題。

因此,建議這種大批量的數(shù)據(jù)更新操作,要在用戶較少的凌晨,分批多次執(zhí)行。

我們要盡可能少的影響線上用戶的功能。

此外,在生產(chǎn)環(huán)境增加字段,增加索引等操作,也能會導致長期鎖表。也要避免在用戶訪問高峰期執(zhí)行相關的SQL腳本。

7 腳本無法回滾

絕大多數(shù)系統(tǒng)上線是能夠成功的,雖然過程中會遇到很多問題,但如果能夠及時解決,也能夠上線成功。

但如果有些問題,沒法再規(guī)定的時間內解決,很有可能會導致上線失敗。

如果上線失敗,意味著代碼和數(shù)據(jù)庫的SQL腳本要回滾。

如果只回滾了代碼,不回滾數(shù)據(jù)庫,可能會導致很多系統(tǒng)異常。

因此,我們在準備SQL語句時,要留點心眼,順便想想該SQL語句能否回滾。

對于update語句可以加上修改時間:

update t_user set age=25,time=now(3) where id=1;

這樣可以通過該時間追溯一次SQL操作修改的數(shù)據(jù),方便后面做回滾。

有些時候我們要update的數(shù)據(jù),是要通過多條sql語句查詢出來的,比如:需要使用的id。

為了方便回滾我們可以增加臨時表,保存這些id,后面就能追溯了。

當然有些開源的數(shù)據(jù)庫管理平臺,比如:Archery,是有自帶SQL審核和回滾的功能。

8 忘了加索引

我們在增加了字段之后,非常容易忽略的一件事是:加索引。

特別是當前表數(shù)據(jù)量很大,而且增加的字段是另外一張表的id時,這種情況強烈建議增加索引。

如果我們上線系統(tǒng)時,在SQL腳本中,忘了給該字段增加索引。如果該id字段被大批量訪問,全部走的全表掃描,可能會導致數(shù)據(jù)庫性能直線下降,出現(xiàn)大量的超時問題。

所以建議我們在開發(fā)的時候,如果要增加字段的話,要養(yǎng)成良好習慣,想一想這個字段需不需要建索引。

如果不確定數(shù)據(jù)量的話,可以先到生產(chǎn)環(huán)境查詢一下真實的用戶數(shù)據(jù),不然后續(xù)可能會引起比較大的生產(chǎn)事故

9 字段改名

對于生產(chǎn)環(huán)境的表字段,通常情況下,我們不允許修改名稱。

如果你在發(fā)布pre環(huán)境時,通過SQL腳本把某張表的某個字段名稱修改了,pre環(huán)境代碼使用了新的名稱,系統(tǒng)沒有問題。

但prod環(huán)境還是使用老的名稱,所有使用該名稱的sql語句,在代碼執(zhí)行過程中都會報錯。

因此,禁止在生產(chǎn)環(huán)境通過SQL腳本修改字段名稱

當然系統(tǒng)上線時除了SQL腳本的這些坑之外,還有系統(tǒng)發(fā)版失敗,代碼合錯分支,mq消息被pre消費了,無法回滾等等,還有很多問題。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • SQL
    SQL
    +關注

    關注

    1

    文章

    753

    瀏覽量

    44032
  • DBA
    DBA
    +關注

    關注

    0

    文章

    18

    瀏覽量

    7867
  • 腳本
    +關注

    關注

    1

    文章

    387

    瀏覽量

    14811
收藏 人收藏

    評論

    相關推薦

    SQL語句生成器

    SQL語句生成器SQL數(shù)據(jù)庫語句生成及分析器(支持表結構、索引、所有記錄到SQL腳本)可用于數(shù)據(jù)數(shù)的備份和恢復!功能不用多說,試試就知道了
    發(fā)表于 06-12 16:15

    死創(chuàng)業(yè)者的硬件產(chǎn)品——“十大坑

    死創(chuàng)業(yè)者的硬件產(chǎn)品——“十大坑”第一:錯把產(chǎn)品原型當批量生產(chǎn)第二:以為可以修補bug;第三:什么都自己做;第四
    發(fā)表于 11-14 15:59

    CloudDBA的SQL過濾功能

    突然上升4.1.2 有數(shù)據(jù)傾斜SQL,影響正常業(yè)務比如大促時拉取某個特別大的數(shù)據(jù),造成整體系統(tǒng)繁忙4.1.3 未創(chuàng)建索引SQL,影響正常業(yè)務比如新上線
    發(fā)表于 08-06 14:52

    使用Xilinx異步FIFO常見的

    FIFO是FPGA處理跨時鐘和數(shù)據(jù)緩存的必要IP,可以這么說,只要是任意一個成熟的FPGA涉及,一定會涉及到FIFO。但是我在使用異步FIFO的時候,碰見幾個大坑,這里總結如下,避免后來者入
    發(fā)表于 02-04 06:23

    紫金橋軟件SQL語句變量拼接的使用方法

    許多用戶在使用紫金橋軟件構建控制系統(tǒng)的同時也會與關系型數(shù)據(jù)庫進行數(shù)據(jù)交互,在使用關系庫的過程中必然會用到大量的SQL腳本,而SQL腳本中的w
    發(fā)表于 10-12 14:24 ?3次下載
    紫金橋軟件<b class='flag-5'>SQL</b>語句變量拼接的使用方法

    Linux操作系統(tǒng)知識講解:避免內存使用七大坑

    Linux操作系統(tǒng)知識講解:避免內存使用七大坑
    的頭像 發(fā)表于 08-28 11:12 ?2796次閱讀
    Linux操作<b class='flag-5'>系統(tǒng)</b>知識講解:避免內存使用七<b class='flag-5'>大坑</b>

    Xilinx異步FIFO的大坑

    FIFO是FPGA處理跨時鐘和數(shù)據(jù)緩存的必要IP,可以這么說,只要是任意一個成熟的FPGA涉及,一定會涉及到FIFO。但是我在使用異步FIFO的時候,碰見幾個大坑,這里總結如下,避免后來者入。
    發(fā)表于 03-12 06:01 ?12次下載
    Xilinx異步FIFO的<b class='flag-5'>大坑</b>

    嵌入式SQL

    1嵌入式SQL嵌入式SQL是指將SQL語言嵌入到程序設計語言中,被嵌入得程序設計語言如C、C++、java等稱為宿主語言預編譯:由數(shù)據(jù)庫管理系統(tǒng)得預處理程序隊源程序進行掃描,識別出嵌入
    發(fā)表于 11-04 09:21 ?17次下載
    嵌入式<b class='flag-5'>SQL</b>

    一起聊聊系統(tǒng)上線SQL腳本9大坑

    即使之前在測試環(huán)境,已經(jīng)執(zhí)行過SQL腳本了。但是有時候,在系統(tǒng)上線時,在生產(chǎn)環(huán)境執(zhí)行相同的SQL腳本
    的頭像 發(fā)表于 03-07 09:08 ?429次閱讀

    9SQL4952-9SQL4954-9SQL4958 系列數(shù)據(jù)表

    9SQL4952-9SQL4954-9SQL4958 系列數(shù)據(jù)表
    發(fā)表于 03-13 20:20 ?0次下載
    <b class='flag-5'>9SQL4952-9SQL4954-9SQL</b>4958 系列數(shù)據(jù)表

    系統(tǒng)上線SQL腳本9大坑

    即使之前在測試環(huán)境,已經(jīng)執(zhí)行過SQL腳本了。但是有時候,在系統(tǒng)上線時,在生產(chǎn)環(huán)境執(zhí)行相同的SQL腳本
    的頭像 發(fā)表于 04-24 17:10 ?526次閱讀

    品鑒一下祖?zhèn)?b class='flag-5'>SQL腳本調優(yōu)方法

    本次腳本太過雍長,不知道之前那位高人幾乎將所有業(yè)務邏輯都寫到SQL里面了;
    的頭像 發(fā)表于 05-19 10:50 ?747次閱讀
    品鑒一下祖?zhèn)?b class='flag-5'>SQL</b><b class='flag-5'>腳本</b>調優(yōu)方法

    9SQL4952-9SQL4954-9SQL4958 系列數(shù)據(jù)表

    9SQL4952-9SQL4954-9SQL4958 系列數(shù)據(jù)表
    發(fā)表于 07-05 19:04 ?0次下載
    <b class='flag-5'>9SQL4952-9SQL4954-9SQL</b>4958 系列數(shù)據(jù)表

    物聯(lián)網(wǎng)WIFI模塊AT指令版本七大坑

    物聯(lián)網(wǎng)WIFI模塊AT指令版本七大坑,看年你踩中幾個!
    的頭像 發(fā)表于 08-28 16:29 ?1028次閱讀

    Oracle如何執(zhí)行sql腳本文件

    Oracle是一種關系型數(shù)據(jù)庫管理系統(tǒng),可用于存儲、查詢和管理大量的數(shù)據(jù)。在Oracle中,可以通過執(zhí)行SQL腳本文件來一次性地執(zhí)行多個SQL語句或者批量處理數(shù)據(jù)。在下面的文章中,我將
    的頭像 發(fā)表于 12-06 10:51 ?6280次閱讀