兩種web服務(wù)器的工作原理以及工作模式

Nginx才短短幾年，就拿下了Web服務(wù)器大壁江山，眾所周知，Nginx在處理大并發(fā)靜態(tài)請求方面，效率明顯高于Httpd，甚至能輕松解決C10K問題。

在高并發(fā)連接的情況下，Nginx是Apache服務(wù)器不錯的替代品。Nginx同時(shí)也可以作為7層負(fù)載均衡服務(wù)器來使用。根據(jù)我的測試結(jié)果，Nginx + PHP(FastCGI) 可以承受3萬以上的并發(fā)連接數(shù)，相當(dāng)于同等環(huán)境下Apache的10倍。

一般來說，4GB內(nèi)存的服務(wù)器+Apache（prefork模式）一般只能處理3000個并發(fā)連接，因?yàn)樗鼈儗⒄加?GB以上的內(nèi)存，還得為系統(tǒng)預(yù)留1GB的內(nèi)存。我曾經(jīng)就有兩臺Apache服務(wù)器，因?yàn)樵谂渲梦募性O(shè)置的MaxClients為4000，當(dāng)Apache并發(fā)連接數(shù)達(dá)到3800時(shí)，導(dǎo)致服務(wù)器內(nèi)存和Swap空間用滿而崩潰。

而這臺 Nginx + PHP(FastCGI) 服務(wù)器在3萬并發(fā)連接下，開啟的10個Nginx進(jìn)程消耗150M內(nèi)存（15M10=150M），開啟的64個php-cgi進(jìn)程消耗1280M內(nèi)存（20M64=1280M），加上系統(tǒng)自身消耗的內(nèi)存，總共消耗不到2GB內(nèi)存。如果服務(wù)器內(nèi)存較小，完全可以只開啟25個php-cgi進(jìn)程，這樣php-cgi消耗的總內(nèi)存數(shù)才500M。

在3萬并發(fā)連接下，訪問Nginx+ PHP(FastCGI) 服務(wù)器的PHP程序，仍然速度飛快。

為什么Nginx在處理高并發(fā)方面要優(yōu)于httpd，我們先從兩種web服務(wù)器的工作原理以及工作模式說起。

一、Apache三種工作模式

我們都知道Apache有三種工作模塊，分別為：prefork、worker、event。

prefork：多進(jìn)程，每個請求用一個進(jìn)程響應(yīng)，這個過程會用到select機(jī)制來通知。

worker：多線程，一個進(jìn)程可以生成多個線程，每個線程響應(yīng)一個請求，但通知機(jī)制還是select不過可以接受更多的請求。

event：基于異步I/O模型，一個進(jìn)程或線程，每個進(jìn)程或線程響應(yīng)多個用戶請求，它是基于事件驅(qū)動（也就是epoll機(jī)制）實(shí)現(xiàn)的。

1、prefork的工作原理

如果不用“–with-mpm”顯式指定某種MPM，prefork就是Unix平臺上缺省的MPM。它所采用的預(yù)派生子進(jìn)程方式也是 Apache1.3中采用的模式。prefork本身并沒有使用到線程，2.0版使用它是為了與1.3版保持兼容性；另一方面，prefork用單獨(dú)的子進(jìn)程來處理不同的請求，進(jìn)程之間是彼此獨(dú)立的,這也使其成為最穩(wěn)定的MPM之一。

2、worker的工作原理

相對于prefork，worker是2.0版中全新的支持多線程和多進(jìn)程混合模型的MPM。由于使用線程來處理，所以可以處理相對海量的請求，而系統(tǒng)資源的開銷要小于基于進(jìn)程的服務(wù)器。但是，worker也使用了多進(jìn)程,每個進(jìn)程又生成多個線程，以獲得基于進(jìn)程服務(wù)器的穩(wěn)定性，這種MPM的工作方 式將是Apache2.0的發(fā)展趨勢。

3、event 基于事件機(jī)制的特性

一個進(jìn)程響應(yīng)多個用戶請求，利用callback機(jī)制，讓套接字復(fù)用，請求過來后進(jìn)程并不處理請求，而是直接交由其他機(jī)制來處理，通過epoll機(jī)制來通知請求是否完成；在這個過程中，進(jìn)程本身一直處于空閑狀態(tài)，可以一直接收用戶請求?？梢詫?shí)現(xiàn)一個進(jìn)程程響應(yīng)多個用戶請求。支持持海量并發(fā)連接數(shù)，消耗更少的資源。

二、如何提高Web服務(wù)器的并發(fā)連接處理能力

有幾個基本條件：

基于線程，即一個進(jìn)程生成多個線程，每個線程響應(yīng)用戶的每個請求。

基于事件的模型，一個進(jìn)程處理多個請求，并且通過epoll機(jī)制來通知用戶請求完成。

基于磁盤的AIO（異步I/O）

支持mmap內(nèi)存映射，mmap傳統(tǒng)的web服務(wù)器，進(jìn)行頁面輸入時(shí)，都是將磁盤的頁面先輸入到內(nèi)核緩存中，再由內(nèi)核緩存中復(fù)制一份到web服務(wù)器上，mmap機(jī)制就是讓內(nèi)核緩存與磁盤進(jìn)行映射，web服務(wù)器，直接復(fù)制頁面內(nèi)容即可。不需要先把磁盤的上的頁面先輸入到內(nèi)核緩存去。

剛好，Nginx 支持以上所有特性。所以Nginx官網(wǎng)上說，Nginx支持50000并發(fā)，是有依據(jù)的。

三、Nginx優(yōu)異之處

傳統(tǒng)上基于進(jìn)程或線程模型架構(gòu)的Web服務(wù)通過每進(jìn)程或每線程處理并發(fā)連接請求，這勢必會在網(wǎng)絡(luò)和I/O操作時(shí)產(chǎn)生阻塞，其另一個必然結(jié)果則是對內(nèi)存或CPU的利用率低下。

生成一個新的進(jìn)程/線程需要事先備好其運(yùn)行時(shí)環(huán)境，這包括為其分配堆內(nèi)存和棧內(nèi)存，以及為其創(chuàng)建新的執(zhí)行上下文等。這些操作都需要占用CPU，而且過多的進(jìn)程/線程還會帶來線程抖動或頻繁的上下文切換，系統(tǒng)性能也會由此進(jìn)一步下降。

另一種高性能web服務(wù)器/Web服務(wù)器反向代理：Nginx，Nginx的主要著眼點(diǎn)就是其高性能以及對物理計(jì)算資源的高密度利用，因此其采用了不同的架構(gòu)模型。受啟發(fā)于多種操作系統(tǒng)設(shè)計(jì)中基于“事件”的高級處理機(jī)制，Nginx采用了模塊化、事件驅(qū)動、異步、單線程及非阻塞的架構(gòu)，并大量采用了多路復(fù)用及事件通知機(jī)制。

在Nginx中，連接請求由為數(shù)不多的幾個僅包含一個線程的進(jìn)程Worker以高效的回環(huán)(run-loop)機(jī)制進(jìn)行處理，而每個Worker可以并行處理數(shù)千個的并發(fā)連接及請求。

四、Nginx 工作原理

Nginx會按需同時(shí)運(yùn)行多個進(jìn)程：一個主進(jìn)程(master)和幾個工作進(jìn)程(worker)，配置了緩存時(shí)還會有緩存加載器進(jìn)程(cache loader)和緩存管理器進(jìn)程(cache manager)等。所有進(jìn)程均是僅含有一個線程，并主要通過“共享內(nèi)存”的機(jī)制實(shí)現(xiàn)進(jìn)程間通信。主進(jìn)程以root用戶身份運(yùn)行，而worker、cache loader和cache manager均應(yīng)以非特權(quán)用戶身份運(yùn)行。

在高連接并發(fā)的情況下，Nginx是Apache服務(wù)器不錯的替代品。

Nginx 安裝非常的簡單 , 配置文件非常簡潔（還能夠支持perl語法）,Bugs 非常少的服務(wù)器: Nginx 啟動特別容易, 并且?guī)缀蹩梢宰龅?*24不間斷運(yùn)行，即使運(yùn)行數(shù)個月也不需要重新啟動. 你還能夠 不間斷服務(wù)的情況下進(jìn)行軟件版本的升級 。

五、Nginx 的誕生主要解決C10K問題

最后我們從各自使用的多路復(fù)用IO模型來分析：

1、select模型：（apache使用，由于受模塊等限制，用的不多）；

單個進(jìn)程能夠 監(jiān)視的文件描述符的數(shù)量存在最大限制；

select()所維護(hù)的 存儲大量文件描述符的數(shù)據(jù)結(jié)構(gòu) ，隨著文件描述符數(shù)量的增長，其在用戶態(tài)和內(nèi)核的地址空間的復(fù)制所引發(fā)的開銷也會線性增長；

由于網(wǎng)絡(luò)響應(yīng)時(shí)間的延遲使得大量TCP連接處于非活躍狀態(tài)，但調(diào)用select()還是會對 所有的socket進(jìn)行一次線性掃描 ，會造成一定的開銷；

2、poll：poll是unix沿用select自己重新實(shí)現(xiàn)了一遍，唯一解決的問題是poll 沒有最大文件描述符數(shù)量的限制；

3、epoll模型：（Nginx使用）

epoll帶來了兩個優(yōu)勢，大幅度提升了性能：

（1）基于事件的就緒通知方式 ，select/poll方式，進(jìn)程只有在調(diào)用一定的方法后，內(nèi)核才會對所有監(jiān)視的文件描述符進(jìn)行掃描，而epoll事件通過epoll_ctl()注冊一個文件描述符，一旦某個文件描述符就緒時(shí)，內(nèi)核會采用類似call back的回調(diào)機(jī)制，迅速激活這個文件描述符，epoll_wait()便會得到通知

（2）調(diào)用一次epoll_wait()獲得就緒文件描述符時(shí)，返回的并不是實(shí)際的描述符，而是一個代表就緒描述符數(shù)量的值，拿到這些值去epoll指定的一個數(shù)組中依次取得相應(yīng)數(shù)量的文件描述符即可，這里使用內(nèi)存映射（mmap）技術(shù)， 避免了復(fù)制大量文件描述符帶來的開銷

（3）當(dāng)然epoll也有一定的局限性， epoll只有Linux2.6才有實(shí)現(xiàn) ，而其他平臺都沒有，這和apache這種優(yōu)秀的跨平臺服務(wù)器，顯然是有些背道而馳了。

（4）簡單來說epoll是select的升級版，單進(jìn)程管理的文件描述符沒有最大限制。但epoll只有l(wèi)inux平臺可使用。作為跨平臺的Apache沒有使用

審核編輯 ：李倩