0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Redis的各項(xiàng)功能解決了哪些問題

電子工程師 ? 來源:fqj ? 2019-05-22 16:45 ? 次閱讀

先看一下Redis是一個(gè)什么東西。官方簡介解釋到:Redis是一個(gè)基于BSD開源的項(xiàng)目,是一個(gè)把結(jié)構(gòu)化的數(shù)據(jù)放在內(nèi)存中的一個(gè)存儲系統(tǒng),你可以把它作為數(shù)據(jù)庫,緩存和消息中間件來使用。同時(shí)支持strings,lists,hashes,sets,sorted sets,bitmaps,hyperloglogs和geospatial indexes等數(shù)據(jù)類型。它還內(nèi)建了復(fù)制,lua腳本,LRU,事務(wù)等功能,通過redis sentinel實(shí)現(xiàn)高可用,通過redis cluster實(shí)現(xiàn)了自動(dòng)分片。以及事務(wù),發(fā)布/訂閱,自動(dòng)故障轉(zhuǎn)移等等。

綜上所述,Redis提供了豐富的功能,初次見到可能會感覺眼花繚亂,這些功能都是干嘛用的?都解決了什么問題?什么情況下才會用到相應(yīng)的功能?那么下面從零開始,一步一步的演進(jìn)來粗略的解釋下。

1 從零開始

最初的需求非常簡單,我們有一個(gè)提供熱點(diǎn)新聞列表的api,api的消費(fèi)者抱怨說每次請求都要2秒左右才能返回結(jié)果。

隨后我們就著手于如何提升一下api消費(fèi)者感知的性能,很快最簡單粗暴的第一個(gè)方案就出來了:為API的響應(yīng)加上基于HTTP的緩存控制cache-control:max-age=600,即讓消費(fèi)者可以緩存這個(gè)響應(yīng)十分鐘。如果api消費(fèi)者如果有效的利用了響應(yīng)中的緩存控制信息,則可以有效的改善其感知的性能(10分鐘以內(nèi))。但是還有2個(gè)弊端:第一個(gè)是在緩存生效的10分鐘內(nèi),api消費(fèi)者可能會得到舊的數(shù)據(jù);第二個(gè)是如果api的客戶端無視緩存直接訪問API依然是需要2秒,治標(biāo)不治本吶。

2 基于本機(jī)內(nèi)存的緩存

為了解決調(diào)用API依然需要2秒的問題,經(jīng)過排查,其主要原因在于使用SQL獲取熱點(diǎn)新聞的過程中消耗了將近2秒的時(shí)間,于是乎,我們又想到了一個(gè)簡單粗暴的解決方案,即把SQL查詢的結(jié)果直接緩存在當(dāng)前api服務(wù)器的內(nèi)存中(設(shè)置緩存有效時(shí)間為1分鐘)。后續(xù)1分鐘內(nèi)的請求直接讀緩存,不再花費(fèi)2秒去執(zhí)行SQL了。假如這個(gè)api每秒接收到的請求時(shí)100個(gè),那么一分鐘就是6000個(gè),也就是只有前2秒擁擠過來的請求會耗時(shí)2秒,后續(xù)的58秒中的所有請求都可以做到即使響應(yīng),而無需再等2秒的時(shí)間。

其他API的小伙伴發(fā)現(xiàn)這是個(gè)好辦法,于是很快我們就發(fā)現(xiàn)API服務(wù)器的內(nèi)存要爆滿了。。。

3 服務(wù)端的Redis

在API服務(wù)器的內(nèi)存都被緩存塞滿的時(shí)候,我們發(fā)現(xiàn)不得不另想解決方案了。最直接的想法就是我們把這些緩存都丟到一個(gè)專門的服務(wù)器上吧,把它的內(nèi)存配置的大大的。然后我們就盯上了redis。。。至于如何配置部署redis這里不解釋了,redis官方有詳細(xì)的介紹。隨后我們就用上了一臺單獨(dú)的服務(wù)器作為Redis的服務(wù)器,API服務(wù)器的內(nèi)存壓力得以解決。

3.1 持久化(Persistence)

單臺的Redis服務(wù)器一個(gè)月總有那么幾天心情不好,心情不好就罷工了,導(dǎo)致所有的緩存都丟失了(redis的數(shù)據(jù)是存儲在內(nèi)存的嘛)。雖然可以把Redis服務(wù)器重新上線,但是由于內(nèi)存的數(shù)據(jù)丟失,造成了緩存雪崩,API服務(wù)器和數(shù)據(jù)庫的壓力還是一下子就上來了。所以這個(gè)時(shí)候Redis的持久化功能就派上用場了,可以緩解一下緩存雪崩帶來的影響。redis的持久化指的是redis會把內(nèi)存的中的數(shù)據(jù)寫入到硬盤中,在redis重新啟動(dòng)的時(shí)候加載這些數(shù)據(jù),從而最大限度的降低緩存丟失帶來的影響。

3.2 哨兵(Sentinel)和復(fù)制(Replication)

Redis服務(wù)器毫無征兆的罷工是個(gè)麻煩事。那么怎辦辦?答曰:備份一臺,你掛了它上。那么如何得知某一臺redis服務(wù)器掛了,如何切換,如何保證備份的機(jī)器是原始服務(wù)器的完整備份呢?這時(shí)候就需要Sentinel和Replication出場了。Sentinel可以管理多個(gè)Redis服務(wù)器,它提供了監(jiān)控,提醒以及自動(dòng)的故障轉(zhuǎn)移的功能;Replication則是負(fù)責(zé)讓一個(gè)Redis服務(wù)器可以配備多個(gè)備份的服務(wù)器。Redis也是利用這兩個(gè)功能來保證Redis的高可用的。此外,Sentinel功能則是對Redis的發(fā)布和訂閱功能的一個(gè)利用。

3.3 集群(Cluster)

單臺服務(wù)器資源的總是有上限的,CPU資源和IO資源我們可以通過主從復(fù)制,進(jìn)行讀寫分離,把一部分CPU和IO的壓力轉(zhuǎn)移到從服務(wù)器上。但是內(nèi)存資源怎么辦,主從模式做到的只是相同數(shù)據(jù)的備份,并不能橫向擴(kuò)充內(nèi)存;單臺機(jī)器的內(nèi)存也只能進(jìn)行加大處理,但是總有上限的。所以我們就需要一種解決方案,可以讓我們橫向擴(kuò)展。最終的目的既是把每臺服務(wù)器只負(fù)責(zé)其中的一部分,讓這些所有的服務(wù)器構(gòu)成一個(gè)整體,對外界的消費(fèi)者而言,這一組分布式的服務(wù)器就像是一個(gè)集中式的服務(wù)器一樣(之前在解讀REST的博客中解釋過分布式于基于網(wǎng)絡(luò)的差異:基于網(wǎng)絡(luò)應(yīng)用的架構(gòu))。

在Redis官方的分布式方案出來之前,有twemproxy和codis兩種方案,這兩個(gè)方案總體上來說都是依賴proxy來進(jìn)行分布式的,也就是說redis本身并不關(guān)心分布式的事情,而是交由twemproxy和codis來負(fù)責(zé)。而redis官方給出的cluster方案則是把分布式的這部分事情做到了每一個(gè)redis服務(wù)器中,使其不再需要其他的組件就可以獨(dú)立的完成分布式的要求。我們這里不關(guān)心這些方案的優(yōu)略,我們關(guān)注一下這里的分布式到底是要處理那些事情?也就是twemproxy和codis獨(dú)立處理的處理分布式的這部分邏輯和cluster集成到redis服務(wù)的這部分邏輯到底在解決什么問題?

如我們前面所說的,一個(gè)分布式的服務(wù)在外界看來就像是一個(gè)集中式的服務(wù)一樣。那么要做到這一點(diǎn)就面臨著有一個(gè)問題需要解決:既是增加或減少分布式服務(wù)中的服務(wù)器的數(shù)量,對消費(fèi)這個(gè)服務(wù)的客戶端而言應(yīng)該是無感的;那么也就意味著客戶端不能穿透分布式服務(wù),把自己綁死到某一個(gè)臺的服務(wù)器上去,因?yàn)橐坏┤绱?,你就再也無法新增服務(wù)器,也無法進(jìn)行故障替換。
解決這個(gè)問題有兩個(gè)路子:
第一個(gè)路子最直接,那就是我加一個(gè)中間層來隔離這種具體的依賴,即twemproxy采用的方式,讓所有的客戶端只能通過它來消費(fèi)redsi服務(wù),通過它來隔離這種依賴(但是你會發(fā)現(xiàn)twermproxy會成為一個(gè)單點(diǎn)),這種情況下每臺redis服務(wù)器都是獨(dú)立的,它們之間彼此不知對方的存在
第二個(gè)路子是讓redis服務(wù)器知道彼此的存在,通過重定向的機(jī)制來引導(dǎo)客戶端來完成自己所需要的操作
比如客戶端鏈接到了某一個(gè)redis服務(wù)器,說我要執(zhí)行這個(gè)操作,redis服務(wù)器發(fā)現(xiàn)自己無法完成這個(gè)操作,那么就把能完成這個(gè)操作的服務(wù)器的信息給到客戶端,讓客戶端去請求另外的一個(gè)服務(wù)器,這時(shí)候你就會發(fā)現(xiàn)每一個(gè)redis服務(wù)器都需要保持一份完整的分布式服務(wù)器信息的一份資料,不然它怎么知道讓客戶端去找其他的哪個(gè)服務(wù)器來執(zhí)行客戶端想要的操作呢。

上面這一大段解釋了這么多,不知有沒有發(fā)現(xiàn)不管是第一個(gè)路子還是第二個(gè)路子,都有一個(gè)共同的東西存在,那就是分布式服務(wù)中所有服務(wù)器以及其能提供的服務(wù)的信息。這些信息無論如何也是要存在的,區(qū)別在于第一個(gè)路子是把這部分信息單獨(dú)來管理,用這些信息來協(xié)調(diào)后端的多個(gè)獨(dú)立的redis服務(wù)器;第二個(gè)路子則是讓每一個(gè)redis服務(wù)器都持有這份信息,彼此知道對方的存在,來達(dá)成和第一個(gè)路子一樣的目的,優(yōu)點(diǎn)是不再需要一個(gè)額外的組件來處理這部分事情。

Redis Cluster的具體實(shí)現(xiàn)細(xì)節(jié)則是采用了Hash槽的概念,即預(yù)先分配出來16384個(gè)槽:在客戶端通過對Key進(jìn)行CRC16(key)% 16384運(yùn)算得到對應(yīng)的槽是哪一個(gè);在redis服務(wù)端則是每個(gè)服務(wù)器負(fù)責(zé)一部分槽,當(dāng)有新的服務(wù)器加入或者移除的時(shí)候,再來遷移這些槽以及其對應(yīng)的數(shù)據(jù),同時(shí)每個(gè)服務(wù)器都持有完整的槽和其對應(yīng)的服務(wù)器的信息,這就使得服務(wù)器端可以進(jìn)行對客戶端的請求進(jìn)行重定向處理。

4 客戶端的Redis

上面的第三小節(jié)主要介紹的是Redis服務(wù)端的演進(jìn)步驟,解釋了Redis如何從一個(gè)單機(jī)的服務(wù),進(jìn)化為一個(gè)高可用的、去中心化的、分布式的存儲系統(tǒng)。這一小節(jié)則是關(guān)注下客戶端可以消費(fèi)的redis服務(wù)。

4.1 數(shù)據(jù)類型

redis支持豐富的數(shù)據(jù)類型,從最基礎(chǔ)的string到復(fù)雜的常用到的數(shù)據(jù)結(jié)構(gòu)都有支持:

string:最基本的數(shù)據(jù)類型,二進(jìn)制安全的字符串,最大512M。

list:按照添加順序保持順序的字符串列表。

set:無序的字符串集合,不存在重復(fù)的元素。

sorted set:已排序的字符串集合。

hash:key-value對的一種集合。

bitmap:更細(xì)化的一種操作,以bit為單位。

hyperloglog:基于概率的數(shù)據(jù)結(jié)構(gòu)。

這些眾多的數(shù)據(jù)類型,主要是為了支持各種場景的需要,當(dāng)然每種類型都有不同的時(shí)間復(fù)雜度。其實(shí)這些復(fù)雜的數(shù)據(jù)結(jié)構(gòu)相當(dāng)于之前我在《解讀REST》這個(gè)系列博客基于網(wǎng)絡(luò)應(yīng)用的架構(gòu)風(fēng)格中介紹到的遠(yuǎn)程數(shù)據(jù)訪問(Remote Data Access = RDA)的具體實(shí)現(xiàn),即通過在服務(wù)器上執(zhí)行一組標(biāo)準(zhǔn)的操作命令,在服務(wù)端之間得到想要的縮小后的結(jié)果集,從而簡化客戶端的使用,也可以提高網(wǎng)絡(luò)性能。
比如如果沒有l(wèi)ist這種數(shù)據(jù)結(jié)構(gòu),你就只能把list存成一個(gè)string,客戶端拿到完整的list,操作后再完整的提交給redis,會產(chǎn)生很大的浪費(fèi)。

4.2 事務(wù)

上述數(shù)據(jù)類型中,每一個(gè)數(shù)據(jù)類型都有獨(dú)立的命令來進(jìn)行操作,很多情況下我們需要一次執(zhí)行不止一個(gè)命令,而且需要其同時(shí)成功或者失敗。redis對事務(wù)的支持也是源自于這部分需求,即支持一次性按順序執(zhí)行多個(gè)命令的能力,并保證其原子性。

4.3 Lua腳本

在事務(wù)的基礎(chǔ)上,如果我們需要在服務(wù)端一次性的執(zhí)行更復(fù)雜的操作(包含一些邏輯判斷),則lua就可以排上用場了(比如在獲取某一個(gè)緩存的時(shí)候,同時(shí)延長其過期時(shí)間)。redis保證lua腳本的原子性,一定的場景下,是可以代替redis提供的事務(wù)相關(guān)的命令的。相當(dāng)于基于網(wǎng)絡(luò)應(yīng)用的架構(gòu)風(fēng)格中介紹到的遠(yuǎn)程求值(Remote Evluation = REV)的具體實(shí)現(xiàn)。

4.4 管道

因?yàn)閞edis的客戶端和服務(wù)器的連接時(shí)基于TCP的, 默認(rèn)每次連接都時(shí)只能執(zhí)行一個(gè)命令。管道則是允許利用一次連接來處理多條命令,從而可以節(jié)省一些tcp連接的開銷。管道和事務(wù)的差異在于管道是為了節(jié)省通信的開銷,但是并不會保證原子性。

4.5 分布式鎖

官方推薦采用Redlock算法,即使用string類型,加鎖的時(shí)候給的一個(gè)具體的key,然后設(shè)置一個(gè)隨機(jī)的值;取消鎖的時(shí)候用使用lua腳本來先執(zhí)行獲取比較,然后再刪除key。具體的命令如下:

SET resource_name my_random_value NX PX 30000if redis.call("get",KEYS[1]) == ARGV[1] then return redis.call("del",KEYS[1])else return 0end

總結(jié)

本篇著重從抽象層面來解釋下redis的各項(xiàng)功能以及其存在的目的,而沒有關(guān)心其具體的細(xì)節(jié)是什么。從而可以聚焦于其解決的問題,依據(jù)抽象層面的概念可以使得我們在特定的場景下選擇更合適的方案,而非局限于其技術(shù)細(xì)節(jié)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • BSD
    BSD
    +關(guān)注

    關(guān)注

    0

    文章

    30

    瀏覽量

    10390
  • Redis
    +關(guān)注

    關(guān)注

    0

    文章

    370

    瀏覽量

    10830

原文標(biāo)題:Redis 的各項(xiàng)功能解決了哪些問題?

文章出處:【微信號:DBDevs,微信公眾號:數(shù)據(jù)分析與開發(fā)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏

    評論

    相關(guān)推薦

    工業(yè)通信網(wǎng)關(guān)的各項(xiàng)功能解

    在工業(yè)自動(dòng)化和智能制造的浪潮中,工業(yè)通信網(wǎng)關(guān)作為連接工業(yè)現(xiàn)場與互聯(lián)網(wǎng)的重要橋梁,發(fā)揮著至關(guān)重要的作用。它不僅實(shí)現(xiàn)不同網(wǎng)絡(luò)協(xié)議之間的轉(zhuǎn)換,還在數(shù)據(jù)采集、設(shè)備控制、網(wǎng)絡(luò)管理等方面展現(xiàn)出強(qiáng)大的功能。本文
    的頭像 發(fā)表于 07-15 16:27 ?272次閱讀
    工業(yè)通信網(wǎng)關(guān)的<b class='flag-5'>各項(xiàng)</b><b class='flag-5'>功能解</b>析

    Redis開源版與Redis企業(yè)版,怎么選用?

    點(diǎn)擊“藍(lán)字”關(guān)注我們數(shù)以千計(jì)的企業(yè)和數(shù)以百萬計(jì)的開發(fā)人員Redis開源版來構(gòu)建應(yīng)用程序。但隨著用戶數(shù)量、數(shù)據(jù)量和地區(qū)性的增加,成本、可擴(kuò)展性、運(yùn)營和可用性等問題也隨之而來。Redis企業(yè)版
    的頭像 發(fā)表于 04-04 08:04 ?901次閱讀
    <b class='flag-5'>Redis</b>開源版與<b class='flag-5'>Redis</b>企業(yè)版,怎么選用?

    Redis官方搜索引擎來了,性能炸裂!

    RediSearch 是一個(gè) Redis 模塊,為 Redis 提供查詢、二級索引和全文搜索功能。
    的頭像 發(fā)表于 02-21 10:01 ?2116次閱讀
    <b class='flag-5'>Redis</b>官方搜索引擎來了,性能炸裂!

    【愛芯派 Pro 開發(fā)板試用體驗(yàn)】Redis源碼編譯和基準(zhǔn)測試

    build-essential 2.2 下載Redis源碼 安裝完git之后,就可以使用git下載Redis源碼: git clone https://github.com/redis
    發(fā)表于 12-10 22:18

    redis容器內(nèi)怎么查看redis日志

    redis是一款流行的開源內(nèi)存數(shù)據(jù)庫,常用于緩存、消息隊(duì)列、任務(wù)管理等場景。在使用redis時(shí),了解如何查看redis日志對于排查問題、監(jiān)控性能和分析應(yīng)用程序行為非常重要。在本文中,我們將介紹在
    的頭像 發(fā)表于 12-05 10:10 ?3400次閱讀

    redis的lru原理

    Redis是一種基于內(nèi)存的鍵值數(shù)據(jù)庫,它使用了LRU(Least Recently Used)算法來進(jìn)行緩存的數(shù)據(jù)淘汰。LRU算法的核心思想是最近最少使用的數(shù)據(jù)將會在未來也不常用,因此應(yīng)該優(yōu)先
    的頭像 發(fā)表于 12-05 09:56 ?592次閱讀

    redis怎么用在項(xiàng)目上

    Redis是一個(gè)開源的內(nèi)存數(shù)據(jù)存儲系統(tǒng),可以用于對高速讀寫的數(shù)據(jù)進(jìn)行存儲和訪問。它提供一種鍵值對的存儲方式,可以支持多種數(shù)據(jù)結(jié)構(gòu),并且具有高效的數(shù)據(jù)讀取和寫入速度。在很多項(xiàng)目中,Redis被廣泛
    的頭像 發(fā)表于 12-04 16:43 ?643次閱讀

    redis hash底層實(shí)現(xiàn)原理

    Redis是一個(gè)開源的內(nèi)存數(shù)據(jù)庫,使用鍵值對存儲數(shù)據(jù)。其中,Redis中的數(shù)據(jù)結(jié)構(gòu)之一就是哈希(Hash),它提供一種將多個(gè)字段(Field)存儲在一個(gè)鍵(Key)中的方法。那么Redis
    的頭像 發(fā)表于 12-04 16:27 ?544次閱讀

    redis的持久化方式RDB和AOF的區(qū)別

    Redis 是一個(gè)高性能的鍵值對數(shù)據(jù)庫,提供兩種持久化方式:RDB 和 AOF。RDB 是將 Redis 的數(shù)據(jù)快照保存到磁盤上,而 AOF 則是將 Redis 的操作命令追加到文件
    的頭像 發(fā)表于 12-04 16:25 ?728次閱讀

    redis的淘汰策略

    Redis是一種基于內(nèi)存的鍵值存儲系統(tǒng),為了充分利用內(nèi)存,Redis采用了一些淘汰策略來管理內(nèi)存空間。淘汰策略的作用是當(dāng)內(nèi)存空間不足時(shí),選擇合適的數(shù)據(jù)對象進(jìn)行淘汰,釋放出更多的內(nèi)存空間,以供后續(xù)
    的頭像 發(fā)表于 12-04 16:23 ?515次閱讀

    redis鎖超時(shí)怎么處理

    在構(gòu)建高并發(fā)系統(tǒng)或分布式系統(tǒng)時(shí),使用Redis作為分布式鎖是一種常見的解決方案。然而,由于網(wǎng)絡(luò)延遲、系統(tǒng)故障或其他原因,鎖定的資源可能因?yàn)槌瑫r(shí)而導(dǎo)致問題。本文將詳細(xì)介紹如何處理Redis鎖超時(shí)
    的頭像 發(fā)表于 12-04 13:53 ?1107次閱讀

    redis查看集群狀態(tài)命令

    Redis 是一個(gè)開源的、內(nèi)存中的數(shù)據(jù)結(jié)構(gòu)存儲系統(tǒng),提供一系列命令來管理和操作數(shù)據(jù)。在 Redis 中,集群是一個(gè)由多個(gè) Redis 實(shí)例組成的分布式系統(tǒng),用于提高數(shù)據(jù)的可用性和性能
    的頭像 發(fā)表于 12-04 11:39 ?992次閱讀

    Java redis鎖怎么實(shí)現(xiàn)

    在Java中實(shí)現(xiàn)Redis鎖涉及到以下幾個(gè)方面:Redis的安裝配置、Redis連接池的使用、Redis數(shù)據(jù)結(jié)構(gòu)的選擇、實(shí)現(xiàn)分布式鎖的幾種方式等。 一、
    的頭像 發(fā)表于 12-04 10:47 ?1091次閱讀

    Redis工具集的實(shí)現(xiàn)和使用

    Redis 基本上是互聯(lián)網(wǎng)公司必備的工具Redis的應(yīng)用場景實(shí)在太多了,但是有很多相似的功能如果每個(gè)項(xiàng)目都要實(shí)現(xiàn)一遍就顯得太麻煩了,所以為了方便,我打算開發(fā)一個(gè)基于
    的頭像 發(fā)表于 12-03 17:32 ?1169次閱讀
    <b class='flag-5'>Redis</b>工具集的實(shí)現(xiàn)和使用

    使用Redis的有序集合實(shí)現(xiàn)排行榜功能和Spring Boot集成

    Redis 的有序集合(Sorted Set)是一個(gè)基于分?jǐn)?shù)(score)排序的數(shù)據(jù)結(jié)構(gòu),它在 Redis 中非常重要,常用于實(shí)現(xiàn)排行榜、近似計(jì)數(shù)器等功能。
    的頭像 發(fā)表于 11-20 10:15 ?716次閱讀