0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

7種server的服務(wù)器處理結(jié)構(gòu)模型

科技綠洲 ? 來(lái)源:Linux開發(fā)架構(gòu)之路 ? 作者:Linux開發(fā)架構(gòu)之路 ? 2023-11-09 11:37 ? 次閱讀

兩種高效的事件處理模式

服務(wù)器程序通常需要處理三類事件:I/O 事件、信號(hào)及定時(shí)事件。有兩種高效的事件處理模式:Reactor和 Proactor,同步 I/O 模型通常用于實(shí)現(xiàn)Reactor 模式,異步 I/O 模型通常用于實(shí)現(xiàn) Proactor 模式。

無(wú)論是 Reactor,還是 Proactor,都是一種基于「事件分發(fā)」的網(wǎng)絡(luò)編程模式,區(qū)別在于 Reactor 模式是基于「待完成」的 I/O 事件,而 Proactor 模式則是基于「已完成」的 I/O 事件

Reactor可以理解為:來(lái)了事件是由操作系統(tǒng)通知應(yīng)用程序,讓應(yīng)用程序來(lái)處理。又因?yàn)椤緝?nèi)核中的數(shù)據(jù)準(zhǔn)備階段和數(shù)據(jù)就緒并由內(nèi)核態(tài)切換到用戶態(tài)】這兩個(gè)過(guò)程對(duì)應(yīng)用層來(lái)說(shuō)是需要主動(dòng)調(diào)用read來(lái)等待的,所以Reactor一般都是用同步IO實(shí)現(xiàn)。

Proactor可以理解為:來(lái)了事件是由操作系統(tǒng)處理好了之后再通知應(yīng)用程序。又因?yàn)椤緝?nèi)核中會(huì)由異步線程把數(shù)據(jù)準(zhǔn)備好并且處理好了之后,直接通過(guò)信號(hào)中斷告訴應(yīng)用層】,對(duì)于應(yīng)用程序來(lái)說(shuō),得到的是已經(jīng)完成讀寫的事件,這個(gè)過(guò)程不需要等待。因此Proactor一般都是用異步IO實(shí)現(xiàn)的。

Linux基本上逐步實(shí)現(xiàn)了POSIX兼容,但并沒有參加正式的POSIX認(rèn)證。由于Linux下的異步IO不完善,aio_read,aio_write系列函數(shù)是由POSIX定義的異步操作接口,不是真正操作系統(tǒng)級(jí)別支持的,而是在用戶空間模擬出來(lái)的異步,并且僅支持本地文件的aio異步操作,網(wǎng)絡(luò)編程中的socket是不支持的。所以本文沒有講述異步IO實(shí)現(xiàn)Proactor模式,取而代之的是同步IO模擬實(shí)現(xiàn)Proactor模式。

①同步IO實(shí)現(xiàn)reactor模式:主線程只負(fù)責(zé)監(jiān)聽lfd,accept成功之后把新創(chuàng)建的cfd交給子線程。子線程再通過(guò)IO多路復(fù)用去監(jiān)聽cfd的讀寫數(shù)據(jù),并且處理客戶端業(yè)務(wù)。(主線程把已被觸發(fā)但是還未完成的事件分發(fā)給子線程)

·································································································

②同步IO模擬proactor模式:是主線程accpet監(jiān)聽lfd,并且lfd讀事件觸發(fā)時(shí),建立連接并創(chuàng)建cfd,并且通過(guò)epoll_ctl把cfd注冊(cè)到內(nèi)核的監(jiān)聽樹中,等到該socket的讀事件就緒時(shí),主線程進(jìn)行讀操作,把讀到的內(nèi)容交給子線程去進(jìn)行業(yè)務(wù)處理,然后子線程處理完業(yè)務(wù)之后把該socketfd又注冊(cè)為寫時(shí)間就緒,并且把數(shù)據(jù)交回給主線程,由主線程寫回給客戶端。

(主線程模擬真實(shí)Proactor模式中的異步線程,把已完成的事件分發(fā)給子線程)

下面的并發(fā)模型中,常用的是:

1??模型四(同步IO模擬proactor模式)

2??模型五線程池版本 (同步IO實(shí)現(xiàn)reactor模式)

在客戶端數(shù)量非常多的時(shí)候適合用模型五,但是在客戶端數(shù)量不多的時(shí)候使用模型四可能會(huì)效率更好,因?yàn)槟P退牡木€程數(shù)量更少,減少CPU切換線程的頻率。

為什么要用同步IO模擬proactor模式呢?

理論上 Proactor 比 Reactor 效率要高一些,異步 I/O 能夠充分利用 DMA 特性,讓 I/O 操作與計(jì)算重疊,但要實(shí)現(xiàn)真正的異步 I/O,操作系統(tǒng)需要做大量的工作。目前 Windows 下通過(guò) IOCP 實(shí)現(xiàn)了真正的異步 I/O,而在 Linux 系統(tǒng)下的 AIO 并不完善,因此在 Linux 下實(shí)現(xiàn)高并發(fā)網(wǎng)絡(luò)編程時(shí)都是以 Reactor 模式為主。所以即使 Boost.Asio 號(hào)稱實(shí)現(xiàn)了 Proactor 模型,其實(shí)它在 Windows 下采用 IOCP,而在 Linux 下是用 Reactor 模式(采用 epoll)模擬出來(lái)的異步模型

服務(wù)器開發(fā)常見的并發(fā)模型

只要是做服務(wù)器開發(fā),那么常見的模型是通用的,C/C++/go等等都是通用的,因?yàn)檫@是一種設(shè)計(jì)思想。

其中模型四和模型五是實(shí)際開發(fā)中主流的,而模型六過(guò)于理想化目前的硬件無(wú)法實(shí)現(xiàn)。

模型一:?jiǎn)尉€程accept(無(wú)IO復(fù)用)

圖片

模型分析:

  • ①主線程執(zhí)行阻塞accept,每次客戶端connect請(qǐng)求連接過(guò)來(lái),主線程中的accept響應(yīng)并建立連接
  • ②創(chuàng)建連接成功之后,得到新的套接字文件描述符cfd(用于與客戶端通信),然后在主線程串行處理套接字讀寫,并處理業(yè)務(wù)。
  • ③在②的處理業(yè)務(wù)時(shí),如果有新的客戶端發(fā)送請(qǐng)求連接,會(huì)被阻塞,服務(wù)器無(wú)響應(yīng),直到當(dāng)前的cfd全部業(yè)務(wù)處理完畢,重新回到accept阻塞監(jiān)聽狀態(tài)時(shí),才會(huì)從請(qǐng)求隊(duì)列中選取第一個(gè)lfd進(jìn)行連接。

優(yōu)缺點(diǎn):

優(yōu)點(diǎn):

  • socket編程流程清晰且簡(jiǎn)單,適合學(xué)習(xí)使用,了解socket基本編程流程。

缺點(diǎn):

  • 該模型并非并發(fā)模型,是串行的服務(wù)器,同一時(shí)刻,監(jiān)聽并響應(yīng)最大的網(wǎng)絡(luò)請(qǐng)求量為1。即并發(fā)量為1。
  • 僅適合學(xué)習(xí)基本socket編程,不適合任何服務(wù)器Server構(gòu)建。

模型二:?jiǎn)尉€程accept + 多線程讀寫業(yè)務(wù)(無(wú)IO復(fù)用)

圖片

模型分析:

  • ①主線程執(zhí)行accept阻塞監(jiān)聽,每當(dāng)有客戶端connect連接請(qǐng)求過(guò)來(lái),主線程中的accept響應(yīng)并且與客戶端建立連接
  • ②創(chuàng)建連接成功后得到新的cfd,然后再thread_create一個(gè)新的線程用來(lái)處理客戶端的讀寫業(yè)務(wù),并且主線程馬上回到accept阻塞監(jiān)聽繼續(xù)等待新客戶端的連接請(qǐng)求
  • ③這個(gè)新的線程通過(guò)套接字cfd與客戶端進(jìn)行通信讀寫
  • ④服務(wù)器在②處理業(yè)務(wù)中,如果有新客戶端發(fā)送申請(qǐng)連接過(guò)來(lái),主線程accept依然會(huì)響應(yīng)并且簡(jiǎn)歷連接,重復(fù)②過(guò)程。

優(yōu)缺點(diǎn):

優(yōu)點(diǎn):

  • 基于模型一作了改進(jìn),支持了并發(fā)
  • 使用靈活,一個(gè)client對(duì)應(yīng)一個(gè)thread單獨(dú)處理,server處理業(yè)務(wù)的內(nèi)聚程度高(一個(gè)好的內(nèi)聚模塊應(yīng)當(dāng)恰好做一件事)。客戶端無(wú)論如何寫,服務(wù)端都會(huì)有一個(gè)線程做資源響應(yīng)。

缺點(diǎn):

  • 隨著客戶端的數(shù)量增多,需要開辟的線程也增加,客戶端與服務(wù)端線程數(shù)量是1:1正比關(guān)系。因此對(duì)于高并發(fā)場(chǎng)景,線程數(shù)量收到硬件的瓶頸制約。線程過(guò)多也會(huì)增加CPU的切換成本,降低CPU的利用率。
  • 對(duì)于長(zhǎng)連接,客戶端一旦沒有業(yè)務(wù)讀寫操作,只要客戶端不關(guān)閉,服務(wù)端的對(duì)應(yīng)線程就必須要保持連接(心跳包、健康監(jiān)測(cè)等機(jī)制),占用連接資源和線程的開銷
  • 僅適合客戶端數(shù)量不大,并且是可控的場(chǎng)景來(lái)使用
  • 僅適合學(xué)習(xí)基本的socket編程,不適合做并發(fā)服務(wù)器

模型三:?jiǎn)尉€程多路IO復(fù)用

圖片

模型分析:

  • ①主線程main thread 創(chuàng)建 lfd之后,采用多路IO復(fù)用機(jī)制(如select和epoll)進(jìn)行IO狀態(tài)阻塞監(jiān)聽。有client1客戶端 connect 請(qǐng)求, IO復(fù)用機(jī)制檢測(cè)到lfd觸發(fā)事件讀寫,則進(jìn)行accept建立連接,并將新生成的cfd1加入到監(jiān)聽I(yíng)O集合中。
  • ②client1 再次進(jìn)行正常讀寫業(yè)務(wù)請(qǐng)求,主線程的多路IO復(fù)用機(jī)制阻塞返回,主線程與client1進(jìn)行讀寫通信業(yè)務(wù)。等到讀寫業(yè)務(wù)結(jié)束后,會(huì)再次返回多路IO復(fù)用的地方進(jìn)行阻塞監(jiān)聽。
  • ③如果client1正在進(jìn)行讀寫業(yè)務(wù)時(shí),server依然在主線程執(zhí)行流程中繼續(xù)執(zhí)行,此時(shí)如果有新的客戶端申請(qǐng)連接請(qǐng)求,server將沒有辦法及時(shí)響應(yīng)(因?yàn)槭菃尉€程,server正在讀寫),將會(huì)把這些還沒來(lái)得及響應(yīng)的請(qǐng)求加入阻塞隊(duì)列中。
  • ④等到server處理完一個(gè)客戶端連接的讀寫操作時(shí),繼續(xù)回到多路IO復(fù)用機(jī)制處阻塞,其他的連接如果再發(fā)送連接請(qǐng)求過(guò)來(lái)的話,會(huì)繼續(xù)重復(fù)②③流程。

優(yōu)缺點(diǎn):

優(yōu)點(diǎn):

  • 單線程/單進(jìn)程解決了可以同時(shí)監(jiān)聽多個(gè)客戶端讀寫狀態(tài)的模型,不需要1:1與客戶端的線程數(shù)量關(guān)系。而是1:n;
  • 多路IO復(fù)用阻塞,不需要一直輪詢,所以不會(huì)浪費(fèi)CPU資源,CPU利用效率較高。

缺點(diǎn):

  • 因?yàn)槭菃尉€程/單線程,雖然可以監(jiān)聽多個(gè)客戶端的讀寫狀態(tài),但是在同一時(shí)間內(nèi),只能處理一個(gè)客戶端的讀寫操作,實(shí)際上讀寫的業(yè)務(wù)并發(fā)為1;
  • 多客戶端訪問服務(wù)器,但是業(yè)務(wù)為串行執(zhí)行,大量請(qǐng)求會(huì)有排隊(duì)延遲現(xiàn)象。如圖中⑤所示,當(dāng)client3占據(jù)主線程流程時(shí), client1和client2流程會(huì)卡在IO復(fù)用,等待下次監(jiān)聽觸發(fā)事件。

是否滿足實(shí)際開發(fā)?

可以!該模型編寫代碼較簡(jiǎn)單,雖然有延遲現(xiàn)象,但是畢竟多路IO復(fù)用機(jī)制阻塞,不會(huì)占用CPU資源,如果并發(fā)請(qǐng)求量比較小,客戶端數(shù)量可數(shù),允許信息有一點(diǎn)點(diǎn)延遲,可以使用該模型。

比如Redis就是采用該模型設(shè)計(jì)的,因?yàn)镽edis業(yè)務(wù)處理主要是在內(nèi)存中完成的,操作速度很快,性能瓶頸不在CPU上。

模型四:?jiǎn)尉€程多路IO復(fù)用 + 多線程業(yè)務(wù)工作池

圖片

模型分析:

前兩步跟模型三一致

  • ①主線程main thread 創(chuàng)建 lfd之后,采用多路IO復(fù)用機(jī)制(如select和epoll)進(jìn)行IO狀態(tài)阻塞監(jiān)聽。有client1客戶端 connect 請(qǐng)求, IO復(fù)用機(jī)制檢測(cè)到lfd觸發(fā)事件讀寫,則進(jìn)行accept建立連接,并將新生成的cfd1加入到監(jiān)聽I(yíng)O集合中。
  • ②當(dāng)cfd1有可讀消息,觸發(fā)讀事件,并且進(jìn)行讀寫消息。
  • ③主線程按照固定的協(xié)議讀取消息,并且交給worker pool工作線程池,工作線程池在server啟動(dòng)之前就已經(jīng)開啟固定數(shù)量的線程,里面的線程只處理消息業(yè)務(wù),不進(jìn)行套接字讀寫操作。
  • ④工作池處理完業(yè)務(wù),觸發(fā)cfd1寫事件,將要回發(fā)客戶端的數(shù)據(jù)消息通過(guò)主線程寫回給客戶端

優(yōu)缺點(diǎn):

優(yōu)點(diǎn):

  • 相比于模型三而言,設(shè)計(jì)了一個(gè)worker pool業(yè)務(wù)線程池,將業(yè)務(wù)處理部分從主線程抽離出來(lái),為主線程分擔(dān)了業(yè)務(wù)處理的工作,減少了因?yàn)閱尉€程的串行執(zhí)行業(yè)務(wù)機(jī)制,多客戶端對(duì)server的大量請(qǐng)求造成排隊(duì)延遲的時(shí)間。就是說(shuō)主線程讀完數(shù)據(jù)之后馬上就丟給了線程池去處理,然后馬上回到多路IO復(fù)用的阻塞監(jiān)聽狀態(tài)??s短了其他客戶端的等待連接時(shí)間。
  • 由于是單線程,實(shí)際上讀寫的業(yè)務(wù)并發(fā)還是為1,但是業(yè)務(wù)流程的并發(fā)數(shù)為worker pool線程池里的線程數(shù)量,加快了業(yè)務(wù)處理并行效率。

缺點(diǎn):

  • 讀寫依然是主線程單獨(dú)處理,最高的讀寫并行通道依然是1,導(dǎo)致當(dāng)前服務(wù)器的并發(fā)性能依然沒有提升,只是響應(yīng)任務(wù)的速度快了。每個(gè)客戶端的排隊(duì)時(shí)間短了,但因?yàn)檫€是只有一個(gè)通道進(jìn)行讀寫操作,因此總體的完成度跟模型3是差不多的。
  • 雖然多個(gè)worker線程池處理業(yè)務(wù),但是最后返回給客戶端依舊也需要排隊(duì)。因?yàn)槌隹谶€是只有read+write 這1個(gè)通道。因此業(yè)務(wù)是可以并行了,但是總體的效率是不變的。
  • 模型三是客戶端向server發(fā)起請(qǐng)求時(shí)需要排隊(duì),模型四是業(yè)務(wù)處理完之后回寫客戶端需要排隊(duì)。

是否滿足實(shí)際開發(fā)?

可以!模型三跟模型四的總體并發(fā)效率差不多,因?yàn)檫€是一個(gè)線程進(jìn)行讀寫。但是對(duì)于客戶端的體驗(yàn)來(lái)說(shuō),會(huì)覺得響應(yīng)速度變快,減少了在服務(wù)器的排隊(duì)時(shí)間。如果客戶端數(shù)量不多,并且各個(gè)客戶端的邏輯業(yè)務(wù)有并行需求的話適合用該模型。

模型五:?jiǎn)尉€程多路IO復(fù)用 + 多線程多路IO復(fù)用(線程池)實(shí)際中最常用

圖片

模型分析:

  • ①server在啟動(dòng)監(jiān)聽之前,需要?jiǎng)?chuàng)建固定數(shù)量N的線程,作為thread pool線程池。
  • ②主線程創(chuàng)建lfd之后,采用多路IO復(fù)用機(jī)制(如select、epoll)進(jìn)行IO狀態(tài)阻塞監(jiān)聽。有client1客戶端 connect請(qǐng)求,IO復(fù)用機(jī)制檢測(cè)到lfd觸發(fā)讀事件,則進(jìn)行accept建立連接,并且將新創(chuàng)建的cfd1分發(fā)給thread pool線程池中的某個(gè)線程監(jiān)聽。
  • ③thread pool中的每個(gè)thread都啟動(dòng)多路IO復(fù)用機(jī)制,用來(lái)監(jiān)聽主線程建立成功并且分發(fā)下來(lái)的socket套接字(cfd)。
  • ④如圖,thread1監(jiān)聽cfd1、cfd2,thread2監(jiān)聽cfd3,thread3監(jiān)聽cfd4。線程池里的每一個(gè)線程相當(dāng)于它們所監(jiān)聽的客戶端所對(duì)應(yīng)的服務(wù)端。當(dāng)對(duì)應(yīng)的cfd有讀寫事件時(shí),對(duì)應(yīng)的線程池里的thread會(huì)處理相應(yīng)的讀寫業(yè)務(wù)。

優(yōu)缺點(diǎn):

優(yōu)點(diǎn):

  • 將主線程的單流程讀寫,分散到線程池完成,這樣增加了同一時(shí)刻的讀寫并行通道,并行通道數(shù)量等于線程池的thread數(shù)量N;
  • server同時(shí)監(jiān)聽cfd套接字?jǐn)?shù)量幾乎成倍增大,之前的全部監(jiān)控?cái)?shù)量取決于主線程的多路IO復(fù)用機(jī)制的最大限制(select默認(rèn)1024,epoll默認(rèn)與內(nèi)存有關(guān),約3~6w不等)。所以該模型的理論單點(diǎn)server最高的響應(yīng)并發(fā)數(shù)量為N*(3 ~ 6w)。(N為線程池thread的數(shù)量,建議與cpu核心數(shù)一致)
  • 如果良好的線程池?cái)?shù)量和CPU核心數(shù)適配,那么可以嘗試CPU核心與thread綁定,從而降低cpu的切換頻率,提高了每個(gè)thread處理業(yè)務(wù)的效率。

缺點(diǎn):

  • 雖然監(jiān)聽的并發(fā)數(shù)量提升,但是最高讀寫并行通道依然為N,而且多個(gè)身處被同一個(gè)thread所監(jiān)聽的客戶端也會(huì)出現(xiàn)延遲讀寫現(xiàn)象。實(shí)際上線程池里每個(gè)thread對(duì)應(yīng)客戶端的部分,相當(dāng)于模型三。

是否滿足實(shí)際開發(fā)?

可以!當(dāng)前主流的線程池框架就是模型五,其中有Netty 和 Memcache 。

模型六:(多進(jìn)程版)單線程多路IO復(fù)用 + 多進(jìn)程多路IO復(fù)用(進(jìn)程池)

圖片

模型分析:

與線程池版沒有太大的差異。需要在服務(wù)器啟動(dòng)之前先創(chuàng)建一些守護(hù)進(jìn)程在后臺(tái)運(yùn)行。

存在的不同之處:

  • ①進(jìn)程間資源不共享,而線程是共享資源的。進(jìn)程和線程的內(nèi)存布局不同導(dǎo)致主進(jìn)程不再進(jìn)行accept操作,而是將accept過(guò)程分散到每一個(gè)子進(jìn)程中
  • ②進(jìn)程的資源獨(dú)立,所以主進(jìn)程如果accept成功cfd,其他的進(jìn)程是沒有辦法共享資源的,因此需要各子進(jìn)程自行accpet創(chuàng)建連接
  • ③主進(jìn)程只是監(jiān)聽listenFd狀態(tài),一旦觸發(fā)讀事件或者有新連接請(qǐng)求,通過(guò)IPC進(jìn)程間通信(signal、mmap、fifo等方式)讓所有的子進(jìn)程們進(jìn)行競(jìng)爭(zhēng),搶到lfd讀事件資源的子進(jìn)程會(huì)進(jìn)行accpet操作,監(jiān)聽他們自己所創(chuàng)建出來(lái)的套接字cfd。(自己創(chuàng)建的cfd,由自己監(jiān)聽cfd的讀寫事件)

優(yōu)缺點(diǎn):

與線程池版本沒有太大差異

優(yōu)點(diǎn):

  • 由于進(jìn)程間的資源獨(dú)立,盡管是父子進(jìn)程,也是讀時(shí)共享,寫時(shí)復(fù)制。因此多進(jìn)程模型安全穩(wěn)定性較強(qiáng),各自進(jìn)程互不干擾。Nginx就是使用進(jìn)程池的框架實(shí)現(xiàn)的。不過(guò)方案與標(biāo)準(zhǔn)的多 Reactor 多進(jìn)程有些差異。具體差異表現(xiàn)在主進(jìn)程中僅僅用來(lái)初始化 socket,并沒有創(chuàng)建 mainReactor 來(lái) accept 連接,而是由子進(jìn)程的 Reactor 來(lái) accept 連接,通過(guò)鎖來(lái)控制一次只有一個(gè)子進(jìn)程進(jìn)行 accept(防止出現(xiàn)驚群現(xiàn)象),子進(jìn)程 accept 新連接后就放到自己的 Reactor 進(jìn)行處理,不會(huì)再分配給其他子進(jìn)程。

缺點(diǎn):

  • 多進(jìn)程內(nèi)存資源空間占用得稍微大一些

模型七:?jiǎn)尉€程多路I/O復(fù)用+多線程多路I/O復(fù)用+多線程

圖片

模型分析:

  • ①server在啟動(dòng)監(jiān)聽之前,開辟固定數(shù)量N個(gè)線程,創(chuàng)建thread pool線程池。
  • ②主線程創(chuàng)建lfd之后,采用多路IO復(fù)用機(jī)制進(jìn)行IO狀態(tài)的阻塞監(jiān)聽。當(dāng)有client1客戶端connect請(qǐng)求,多路IO復(fù)用機(jī)制檢測(cè)到lfd觸發(fā)讀事件,則會(huì)進(jìn)行accept建立連接,并把a(bǔ)ccept后新創(chuàng)建的cfd1分發(fā)給thread pool中的某個(gè)線程進(jìn)行監(jiān)聽。
  • ③線程池中的每個(gè)thread都啟動(dòng)多路IO復(fù)用機(jī)制,用來(lái)監(jiān)聽主線程分發(fā)下來(lái)的socket套接字cfd。一旦某個(gè)被監(jiān)聽的cfd被觸發(fā)了讀寫事件,該線程池里的thread會(huì)立即開辟他的一個(gè)子線程與cfd進(jìn)行讀寫業(yè)務(wù)操作。
  • ④當(dāng)某個(gè)讀寫線程完成當(dāng)前讀寫業(yè)務(wù)時(shí),如果當(dāng)前套接字沒有被關(guān)閉,那么該線程會(huì)將當(dāng)前的cfd套接字重新加回線程池的監(jiān)聽線程中,同時(shí)自身銷毀。

優(yōu)缺點(diǎn):

優(yōu)點(diǎn):

  • 在模型五的基礎(chǔ)上,除了能夠保證同時(shí)響應(yīng)的最高并發(fā)數(shù),又能解決了讀寫并行通道被局限的問題。
  • 同一時(shí)刻的讀寫并行通道達(dá)到最大極限,一個(gè)客戶端可以對(duì)應(yīng)一個(gè)單獨(dú)線程處理讀寫業(yè)務(wù)。讀寫并行通道與客戶端的數(shù)量是1 :1關(guān)系。

缺點(diǎn):

  • 該模型過(guò)于理想化,因?yàn)橐骳pu的核心數(shù)足夠大
  • 如果硬件cpu數(shù)量可數(shù)(目前的硬件情況就是cpu可數(shù)),那么該模型將造成大量的cpu切換成本。為了保證讀寫并行通道與客戶端可以一對(duì)一服務(wù),那么server需要開辟的線程數(shù)量就要與客戶端一致,那么線程池中多路IO復(fù)用的監(jiān)聽線程池綁定CPU數(shù)量將會(huì)變得毫無(wú)意義。(因?yàn)槭褂枚嗦稩O復(fù)用機(jī)制,就是為了達(dá)到1個(gè)線程可以監(jiān)聽多個(gè)client。如果現(xiàn)在的線程數(shù)量已經(jīng)跟客戶端數(shù)量一致了,那多路IO復(fù)用就沒意義了)
  • 如果每個(gè)臨時(shí)的讀寫線程都能夠綁定一個(gè)單獨(dú)的CPU,那么此模型將會(huì)是最優(yōu)模型。但是目前的CPU數(shù)量無(wú)法與客戶端的數(shù)量達(dá)到一個(gè)量級(jí),還差得遠(yuǎn)。

八 、總結(jié)

  • 上面整理了7種server的服務(wù)器處理結(jié)構(gòu)模型,對(duì)于應(yīng)付高并發(fā)和高CPU利用率的模型,目前采用最多的是模型五,其中Nginx就是類似模型五進(jìn)程版的改版。
  • 并發(fā)模型并且設(shè)計(jì)得越復(fù)雜越好,也不是線程開辟越多越好。真實(shí)設(shè)計(jì)開發(fā)中需要考慮硬件的利用和CPU切換成本的開銷。模型六的設(shè)計(jì)極為復(fù)雜,線程較多,但以當(dāng)今的硬件能力無(wú)法實(shí)現(xiàn),反倒導(dǎo)致該模型性能級(jí)差。所以對(duì)于不同的業(yè)務(wù)場(chǎng)景要選擇適合的模型構(gòu)建,并不是說(shuō)固定要使用哪一個(gè),要根據(jù)實(shí)際靈活變動(dòng)。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    12

    文章

    8963

    瀏覽量

    85087
  • Server
    +關(guān)注

    關(guān)注

    0

    文章

    90

    瀏覽量

    23985
  • 模型
    +關(guān)注

    關(guān)注

    1

    文章

    3116

    瀏覽量

    48660
  • 應(yīng)用程序
    +關(guān)注

    關(guān)注

    37

    文章

    3237

    瀏覽量

    57547
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    服務(wù)器技術(shù)基礎(chǔ)

    中國(guó)高性能計(jì)算機(jī)標(biāo)準(zhǔn)1.1 什么是服務(wù)器服務(wù)器Server從功能上說(shuō),它負(fù)責(zé)偵聽網(wǎng)絡(luò)上其它客戶機(jī)(Client)提交的服務(wù)請(qǐng)求,并提供相應(yīng)的
    發(fā)表于 09-12 22:55

    無(wú)紋波控制系統(tǒng)仿真結(jié)構(gòu)模型

    控制輸出  圖2-3單位階躍輸入下最少拍有紋波系統(tǒng)輸出  圖2-4單位階躍輸入下最少拍無(wú)紋波控制系統(tǒng)仿真結(jié)構(gòu)模型  圖2-5單位階躍輸入下最少拍無(wú)紋波控制輸出  圖2-6單位階躍輸入下最少拍無(wú)紋波系統(tǒng)輸...
    發(fā)表于 09-01 08:03

    如何對(duì)雙母線結(jié)構(gòu)模型進(jìn)行仿真

    怎樣去搭建一電力電子仿真模型?如何對(duì)雙母線結(jié)構(gòu)模型進(jìn)行仿真?
    發(fā)表于 09-24 10:28

    Web Server服務(wù)器后臺(tái)表單處理程序

    1.Web Server服務(wù)器后臺(tái)表單處理程序:使用 CGI 程序接口編寫后臺(tái)程序的 Web服務(wù)器。2.Boa服務(wù)器轉(zhuǎn)載于
    發(fā)表于 12-16 06:25

    基于SI協(xié)議的IP電話服務(wù)器的設(shè)計(jì)

    根據(jù)SIP 服務(wù)器功能,提出了SIP 服務(wù)器結(jié)構(gòu)模型,介紹了注冊(cè)處理和呼叫處理的實(shí)現(xiàn)方法。按照模塊化設(shè)計(jì)思想,采用多線程模式實(shí)現(xiàn)SIP
    發(fā)表于 08-31 09:45 ?13次下載

    ZOPC Server服務(wù)器軟件使用說(shuō)明

    ZOPC Server服務(wù)器軟件使用說(shuō)明 ZLG通用OPC服務(wù)器 ZOPC_Server是一個(gè)OPC服務(wù)器軟件,本軟件通過(guò)插件方式操作底
    發(fā)表于 04-22 09:24 ?45次下載

    UMTS的物理結(jié)構(gòu)模型

    UMTS的物理結(jié)構(gòu)模型
    發(fā)表于 09-18 15:13 ?1250次閱讀

    如何用Foxmail Server搭建郵件服務(wù)器

    如何用Foxmail Server搭建郵件服務(wù)器 Foxmail Server(以下簡(jiǎn)稱FMS)可以搭建出功能強(qiáng)大的郵件服務(wù)器。本文以FMS For Windows 2.0為例,從其
    發(fā)表于 01-27 17:05 ?1346次閱讀

    IPTV的系統(tǒng)結(jié)構(gòu)模型

    圖1是一個(gè)IPTV系統(tǒng)結(jié)構(gòu)模型,此模型已在國(guó)內(nèi)一些城市得到實(shí)際應(yīng)用。在此模型結(jié)構(gòu)圖中,整個(gè)IPTV系統(tǒng)分為兩大部分:后臺(tái)部分和用戶接入部分
    發(fā)表于 01-19 00:34 ?2957次閱讀
    IPTV的系統(tǒng)<b class='flag-5'>結(jié)構(gòu)模型</b>

    新的微結(jié)構(gòu)模擬器設(shè)計(jì)

    處理器體系結(jié)構(gòu)模擬器可以對(duì)處理器結(jié)構(gòu)采用軟件方式進(jìn)行模擬,輔助處理器的研究工作。通過(guò)對(duì)多種結(jié)構(gòu)
    發(fā)表于 03-12 16:13 ?0次下載
    一<b class='flag-5'>種</b>新的微<b class='flag-5'>結(jié)構(gòu)模擬器</b>設(shè)計(jì)

    NVIDIA Triton 系列文章(9):為服務(wù)器添加模型

    的材料,處理起來(lái)是很容易的,比較復(fù)雜的部分是配置文件 config.pbtxt 的內(nèi)容,里面提供 Triton 服務(wù)器用來(lái)管理模型執(zhí)行特
    的頭像 發(fā)表于 12-27 21:20 ?1017次閱讀

    嵌入式7構(gòu)模式分析

    式: ? ??①? 分層架構(gòu) ? ??②?多層架構(gòu) ? ??③? 管道 - 過(guò)濾器架構(gòu) ????④?客戶端 - 服務(wù)器架構(gòu) ? ??⑤?模型 - 視圖 - 控制架構(gòu) ????⑥? 事件驅(qū)動(dòng)架構(gòu) ? ??⑦? 微
    的頭像 發(fā)表于 06-13 15:31 ?4326次閱讀
    嵌入式<b class='flag-5'>7</b><b class='flag-5'>種</b>架<b class='flag-5'>構(gòu)模</b>式分析

    服務(wù)器Server和客戶端Client的區(qū)別

    例如在使用TCP通訊建立連接時(shí)采用客戶端服務(wù)器模式,這種模式又常常被稱為主從式架構(gòu),簡(jiǎn)稱為C/S結(jié)構(gòu),屬于一網(wǎng)絡(luò)通訊架構(gòu),將通訊的雙方以客戶端(Client )與服務(wù)器 (
    的頭像 發(fā)表于 09-06 16:13 ?1305次閱讀
    <b class='flag-5'>服務(wù)器</b><b class='flag-5'>Server</b>和客戶端Client的區(qū)別

    服務(wù)器Server和客戶端Client有哪些區(qū)別呢?

    例如在使用TCP通訊建立連接時(shí)采用客戶端服務(wù)器模式,這種模式又常常被稱為主從式架構(gòu),簡(jiǎn)稱為C/S結(jié)構(gòu),屬于一網(wǎng)絡(luò)通訊架構(gòu),將通訊的雙方以客戶端(Client )與服務(wù)器 (
    的頭像 發(fā)表于 09-06 16:14 ?2331次閱讀
    <b class='flag-5'>服務(wù)器</b><b class='flag-5'>Server</b>和客戶端Client有哪些區(qū)別呢?

    什么是云服務(wù)器

    服務(wù)器(Cloud Server),又稱云主機(jī)或彈性計(jì)算服務(wù)(Elastic Compute Service, ECS),是基于云計(jì)算技術(shù)提供的一虛擬化
    的頭像 發(fā)表于 09-27 09:34 ?145次閱讀