一文知道高性能接口的設(shè)計準(zhǔn)則

高并發(fā)經(jīng)常會發(fā)生在有大活躍用戶量，用戶高聚集的業(yè)務(wù)場景中，如：秒殺活動，定時領(lǐng)取紅包等。

為了讓業(yè)務(wù)可以流暢的運行并且給用戶一個好的交互體驗，我們需要根據(jù)業(yè)務(wù)場景預(yù)估達到的并發(fā)量等因素，來設(shè)計適合自己業(yè)務(wù)場景的高并發(fā)處理方案。

在工作這些年里，我有幸遇到了高并發(fā)各種坑，對如何設(shè)計高性能接口有一些經(jīng)驗，其實無外乎滿足以下幾個特點：

靈敏性

伸縮性

容錯性

事件驅(qū)動/消息驅(qū)動

高性能接口設(shè)計準(zhǔn)則

在引言里我也說了高性能設(shè)計的四個準(zhǔn)則，現(xiàn)在具體對這四個準(zhǔn)則做一些描述；

1. 靈敏性

應(yīng)用程序應(yīng)該盡可能快的對請求做出響應(yīng)。

如果可以在順序獲取數(shù)據(jù)和并行獲取數(shù)據(jù)之間進行選擇的話，為了盡快向用戶返回響應(yīng)，始終應(yīng)該優(yōu)先選擇并行獲取數(shù)據(jù)，可以同時請求互相沒有關(guān)聯(lián)的數(shù)據(jù)。當(dāng)我們需要請求多個互相無關(guān)，沒有依賴的數(shù)據(jù)的時候，應(yīng)該考慮是否能夠同時請求這些數(shù)據(jù)。

如果可能出現(xiàn)錯誤，應(yīng)該立即返回，將問題通知用戶，不要讓用戶等待直到超時。

1.1 如何設(shè)計靈敏性

緩存前置

對于一些改變不頻繁的數(shù)據(jù)，應(yīng)該放在分布式緩存中，例如redis，如果是一些元數(shù)據(jù)（例如，一些計數(shù)器的配置信息，變量的配置信息等）則應(yīng)該啟用本地緩存，簡單流程如下：

如果一些熱點數(shù)據(jù)不大的話，建議服務(wù)啟動的時候就應(yīng)該提前加載到緩存中，這樣可以提高服務(wù)的性能。

讀寫拆分部署

如果你的服務(wù)既涉及到讀操作，也涉及到寫操作， 應(yīng)該將讀寫隔離部署，這樣讀服務(wù)的壓力不會影響到寫服務(wù)，寫服務(wù)的壓力不會影響到讀服務(wù)。流程如下：

當(dāng)然除了按照讀寫進行拆分部署外，還可以按照業(yè)務(wù)進行隔離部署。

對等設(shè)計、無狀態(tài)

所謂無狀態(tài)是指應(yīng)用服務(wù)器不保存業(yè)務(wù)的上下文信息，而僅根據(jù)每次請求提交的數(shù)據(jù)進行相應(yīng)的業(yè)務(wù)邏輯處理，多個服務(wù)實例（服務(wù)器）之間完全對等，請求提交到任意服務(wù)器，處理結(jié)果是完全一樣的。

不保存狀態(tài)的應(yīng)用給高可用的架構(gòu)設(shè)計帶來了巨大便利，既然服務(wù)器不保存請求的狀態(tài)，那么所有的服務(wù)器完全對等，當(dāng)任意一臺或多臺服務(wù)器宕機，請求提交給集群中的其他任意一臺可用機器處理，這樣對終端用戶而言，請求總是能夠成功的，整個系統(tǒng)依然可用。對于應(yīng)用服務(wù)器集群，實現(xiàn)這種服務(wù)器可用狀態(tài)實時檢測、自動轉(zhuǎn)移失敗任務(wù)的機制就是負載均衡。

DB分庫分表，讀寫分離

對于數(shù)據(jù)層來說，如果數(shù)據(jù)量不大，db可以采用讀寫分離部署，對于讀多寫少的場景可以解決一部分壓力，從而提高我們接口的響應(yīng)速度，如果寫的數(shù)據(jù)量和讀的數(shù)據(jù)量都很大，那么就必須要對db進行分庫分表外加讀寫分離了。

2. 伸縮性

應(yīng)用程序應(yīng)該能夠根據(jù)不同的工作負載進行伸縮擴展（尤其是通過增加計算資源來進行擴展）。為了提供伸縮性，系統(tǒng)應(yīng)該努力消除瓶頸。

如果在虛擬機上運行內(nèi)存數(shù)據(jù)庫，那么添加另一個虛擬幾點就可以將所有的查詢請求分布到兩臺虛擬服務(wù)器上，將可能的吞吐量增加至原來的兩倍。添加額外的節(jié)點應(yīng)該能夠幾乎線性的提高系統(tǒng)的性能。

增加一個內(nèi)存數(shù)據(jù)庫的節(jié)點后，還可以將數(shù)據(jù)分為兩半，并將其中的一半移至新的節(jié)點，這樣就能夠?qū)?nèi)存容量提高至原來的兩倍。添加節(jié)點應(yīng)該能夠幾乎線性的提高內(nèi)存容量。

所以一般好的接口設(shè)計是可以通過水平擴展機器來達到提升性能的，這就要求我們設(shè)計接口的時候提現(xiàn)無狀態(tài)性。

3. 容錯性

應(yīng)用程序應(yīng)該考慮到錯誤發(fā)生的情況，并且從容的對錯誤情況做出響應(yīng)。如果系統(tǒng)的某個組件發(fā)生錯誤，對與該組件無關(guān)的請求不應(yīng)該產(chǎn)生任務(wù)影響。錯誤是難以避免的，因此應(yīng)該將錯誤造成的影響限制在發(fā)生錯誤的組件之內(nèi)。如果可能的話，通過對重要組件及數(shù)據(jù)的備份和冗余，這些組件發(fā)生錯誤時不應(yīng)該對其外部行為有任何影響。

假設(shè)你的系統(tǒng)既使用了redis，也使用了mysql對數(shù)據(jù)進行處理，當(dāng)redis或著mysql掛了的時候，程序應(yīng)該可以繼續(xù)提供服務(wù)，而不是一味的報錯。流程如下：

當(dāng)一個組件不可用的時候，可以使用開關(guān)對某一個組件進行降級，常見的降級方式分為手動降級和自動降級，手動降級可以借助zookeeper進行，自動降級可以使用Hystrix。

4. 事件驅(qū)動/消息驅(qū)動

使用消息而不直接進行方法調(diào)用提供了一種幫助我們滿足另外3個高性能設(shè)計準(zhǔn)則的方法。消息驅(qū)動的系統(tǒng)著重于控制何時、何地以及如何對請求做出響應(yīng)，允許做出響應(yīng)的組件進行路由以及負載均衡。

由于異步的消息驅(qū)動系統(tǒng)只在真正需要時才會消耗資源（比如線程），因此它對系統(tǒng)資源的利用更為高效。消息也可以被發(fā)送到遠程機器（位置透明）。

通常不是萬不得已，否則我們認(rèn)為丟失一部分?jǐn)?shù)據(jù)換取服務(wù)的高性能，這是值得的。如果能容忍數(shù)據(jù)的部分丟失（在可接受范圍內(nèi)），比如保存數(shù)據(jù)到db，異步計算耗時的任務(wù)，通過消息隊列將是提升我們系統(tǒng)性能的比較好的方式。

總結(jié)

4個設(shè)計準(zhǔn)則之間并不是完全獨立的。為了滿足某個準(zhǔn)則而采取的方法通常也對滿足其他準(zhǔn)備有所幫助。例如，如果發(fā)現(xiàn)某個服務(wù)響應(yīng)速度較慢，我們可能會在短時間內(nèi)停止再向該服務(wù)發(fā)送請求，等待其恢復(fù)正常，并立即向用戶返回錯誤信息。這樣做降低了響應(yīng)慢的服務(wù)不堪重負直接崩潰的風(fēng)險，因此也提高了系統(tǒng)的容錯性。除此之外，我們立即告知了用戶系統(tǒng)發(fā)生的問題，也就改善了系統(tǒng)的響應(yīng)速度，如圖所示：

責(zé)任編輯人：CC