Sentinel 如何通過勻速請(qǐng)求和冷啟動(dòng)來保障服務(wù)的穩(wěn)定性

摘要：?這是圍繞 Sentinel 的使用場(chǎng)景、技術(shù)對(duì)比和實(shí)現(xiàn)、開發(fā)者實(shí)踐等維度推出的系列文章的第二篇。 第一篇：Dubbo 的流量防衛(wèi)兵 | Sentinel如何通過限流實(shí)現(xiàn)服務(wù)的高可用性 - 鏈接 本期將通過 Sentinel 的勻速請(qǐng)求和冷啟動(dòng)的特性，處理消息場(chǎng)景中經(jīng)常會(huì)遇到的消息突刺的情況，通過“削峰填谷”，來打造服務(wù)的穩(wěn)定性。

這是圍繞 Sentinel 的使用場(chǎng)景、技術(shù)對(duì)比和實(shí)現(xiàn)、開發(fā)者實(shí)踐等維度推出的系列文章的第二篇。

第一篇：Dubbo 的流量防衛(wèi)兵 | Sentinel如何通過限流實(shí)現(xiàn)服務(wù)的高可用性 -?鏈接

本期將通過 Sentinel 的勻速請(qǐng)求和冷啟動(dòng)的特性，處理消息場(chǎng)景中經(jīng)常會(huì)遇到的消息突刺的情況，通過“削峰填谷”，來打造服務(wù)的穩(wěn)定性。

? 8月26日，Aliware Open Source 將首次在成都舉辦 Apache Dubbo 的meetup活動(dòng)，Dubbo 、Sentinel和 Nacos 的小哥哥和小姐姐都會(huì)在現(xiàn)場(chǎng)進(jìn)行技術(shù)分享，歡迎成都的朋友報(bào)名參加我們的活動(dòng)喔，公眾號(hào)后臺(tái)發(fā)送“成都meetup”，獲取報(bào)名鏈接。

一、需求場(chǎng)景描述

在 RocketMQ 中，當(dāng)消費(fèi)者去消費(fèi)消息的時(shí)候，無論是通過 pull 的方式還是 push 的方式，都可能會(huì)出現(xiàn)大批量的消息突刺。如果此時(shí)要處理所有消息，很可能會(huì)導(dǎo)致系統(tǒng)負(fù)載過高，影響穩(wěn)定性。但其實(shí)可能后面幾秒之內(nèi)都沒有消息投遞，若直接把多余的消息丟掉則沒有充分利用系統(tǒng)處理消息的能力。

我們可以看到消息突刺往往都是瞬時(shí)的、不規(guī)律的，其后一段時(shí)間系統(tǒng)往往都會(huì)有空閑資源。我們希望把紅色的那部分消息平攤到后面空閑時(shí)去處理，這樣既可以保證系統(tǒng)負(fù)載處在一個(gè)穩(wěn)定的水位，又可以盡可能地處理更多消息，這時(shí)候我們可以通過 Sentinel勻速請(qǐng)求的特性 ，來為 RocketMQ 削峰填谷，保駕護(hù)航。

二、Apache RocketMQ 一鍵接入 Sentinel

1、實(shí)時(shí)監(jiān)控：

Sentinel 提供 API 用于獲取實(shí)時(shí)的監(jiān)控信息，使用時(shí)可以添加以下依賴：

API 接入文檔：

https://github.com/alibaba/Sentinel/wiki/實(shí)時(shí)監(jiān)控

為了便于使用，Sentinel 還提供了一個(gè)控制臺(tái)（Dashboard）用于配置規(guī)則、查看監(jiān)控、機(jī)器發(fā)現(xiàn)等功能。我們只需要按照 Sentinel 控制臺(tái)文檔 啟動(dòng)控制臺(tái)，然后給對(duì)應(yīng)的應(yīng)用程序添加相應(yīng)參數(shù)并啟動(dòng)即可（注意客戶端需要添加上面的 transport 依賴）。

控制臺(tái)文檔：

https://github.com/alibaba/Sentinel/wiki/控制臺(tái)

這樣在啟動(dòng) Consumer 示例以后，就可以在 Sentinel 控制臺(tái)中找到我們的應(yīng)用了?？梢院芊奖愕卦诳刂婆_(tái)中配置限流規(guī)則：

或者查看實(shí)時(shí)監(jiān)控（這里對(duì)應(yīng)勻速模式，圖中標(biāo)注的 b_qps 代表每秒被 block 的數(shù)目，下同）：

對(duì)比普通限流模式下的監(jiān)控圖線：

可以看到普通限流模式下每次流量突刺都只能在一瞬間處理少量消息，其它請(qǐng)求都會(huì)立即被限掉。而勻速模式下可以把突刺的部分平滑到后面的時(shí)間中處理，每次消息量激增時(shí)都可以處理更多的消息。兩種模式對(duì)比說明勻速模式下消息處理能力得到了更好的利用。

2、一鍵接入

在結(jié)合 RocketMQ Client 使用 Sentinel 時(shí)，用戶首先需要引入 sentinel-core 依賴，由于 RocketMQ Client 未提供相應(yīng)攔截機(jī)制，而且每次收到都可能是批量的消息，因此用戶在處理消息時(shí)需要手動(dòng)進(jìn)行埋點(diǎn)。在 RocketMQ 的場(chǎng)景中，用戶可以根據(jù)不同的 group 和不同的 topic 分別設(shè)置限流規(guī)則，開啟勻速器模式，并在處理消息時(shí)埋點(diǎn)，即可以以固定的速率處理消息。然后在處理消息的時(shí)候手動(dòng)埋點(diǎn)（以 pull consumer 為例）：

PullConsumerDemo地址：
https://github.com/alibaba/Sentinel/blob/master/sentinel-demo/sentinel-demo-rocketmq/src/main/java/com/alibaba/csp/sentinel/demo/rocketmq/PullConsumerDemo.java

下面我們來看一下具體的運(yùn)行效果。首先根據(jù) RocketMQ 的文檔來在本地啟動(dòng) RocketMQ，然后向?qū)?yīng) group 的對(duì)應(yīng) topic 發(fā)送 1000 條消息，然后按上面的例子配限流規(guī)則，啟動(dòng)消費(fèi)者應(yīng)用?？梢钥吹较⑾M(fèi)的速率是勻速的，大約每 200 ms 消費(fèi)一條消息。同時(shí)不斷有排隊(duì)的處理任務(wù)完成，超出等待時(shí)長(zhǎng)的處理請(qǐng)求直接被拒絕。注意在處理請(qǐng)求被拒絕的時(shí)候，需要根據(jù)需求決定是否需要重新消費(fèi)消息。

如果不開啟勻速模式，只是普通的限流模式，則只會(huì)同時(shí)處理 5 條消息，其余的全部被拒絕，即使后面的時(shí)間系統(tǒng)資源充足多余的請(qǐng)求也無法被處理，因而浪費(fèi)了許多空閑資源。

三、Sentinel 基于 Apache RocketMQ 的最佳實(shí)踐

1、勻速器

借助 Sentinel 勻速請(qǐng)求的特性，可以把突然到來的大量請(qǐng)求以勻速的形式均攤，以固定的間隔時(shí)間讓請(qǐng)求通過，以穩(wěn)定的速度逐步處理這些請(qǐng)求，從而避免流量突刺造成系統(tǒng)負(fù)載過高。同時(shí)堆積的請(qǐng)求將會(huì)排隊(duì)，逐步進(jìn)行處理；當(dāng)請(qǐng)求排隊(duì)預(yù)計(jì)超過最大超時(shí)時(shí)長(zhǎng)的時(shí)候則直接拒絕，而不是拒絕全部請(qǐng)求。

勻速器Demo 示例：

https://github.com/alibaba/Sentinel/wikii/限流---勻速器

比如在 RocketMQ 的場(chǎng)景下配置了勻速模式下請(qǐng)求 QPS 為 5，則會(huì)每 200 ms 處理一條消息，多余的處理任務(wù)將排隊(duì)；同時(shí)設(shè)置了超時(shí)時(shí)間為 5s，預(yù)計(jì)排隊(duì)時(shí)長(zhǎng)超過 5s 的處理任務(wù)將會(huì)直接被拒絕。示意圖如下：

2、冷啟動(dòng)

除了勻速器，另一種在面對(duì)RocketMQ 場(chǎng)景下流量突增時(shí)來保障系統(tǒng)穩(wěn)定性的的方式是冷啟動(dòng)。該方式主要用于系統(tǒng)長(zhǎng)期處于低水位的情況下，當(dāng)流量突然增加時(shí)，直接把系統(tǒng)拉升到高水位可能瞬間把系統(tǒng)壓垮。通過"冷啟動(dòng)"，讓通過的流量緩慢增加，在一定時(shí)間內(nèi)逐漸增加到閾值上限，給冷系統(tǒng)一個(gè)預(yù)熱的時(shí)間，避免冷系統(tǒng)被壓垮的情況。具體的例子參見 WarmUpFlowDemo。

勻速器Demo 示例：
https://github.com/alibaba/Sentinel/blob/master/sentinel-demo/sentinel-demo-basic/src/main/java/com/alibaba/csp/sentinel/demo/flow/WarmUpFlowDemo.java

通常冷啟動(dòng)的過程系統(tǒng)允許通過的 QPS 曲線如下圖所示：

通過前兩期的分享，我們已經(jīng)理解了 Sentinel 在 Dubbo和RocketMQ 這兩個(gè)體系中的使用場(chǎng)景和實(shí)踐方法，在下一周的第三期中，我們將對(duì)比Sentinel和傳統(tǒng)的限流產(chǎn)品Hystrix，希望對(duì)開發(fā)者在進(jìn)行限流產(chǎn)品的技術(shù)選型時(shí)有所裨益。

原文鏈接

本文為云棲社區(qū)原創(chuàng)內(nèi)容，未經(jīng)允許不得轉(zhuǎn)載。