我們都知道 Linux 是一個多任務(wù)操作系統(tǒng),它支持的任務(wù)同時運(yùn)行的數(shù)量遠(yuǎn)遠(yuǎn)大于 CPU 的數(shù)量。當(dāng)然,這些任務(wù)實(shí)際上并不是同時運(yùn)行的(Single CPU),而是因?yàn)橄到y(tǒng)在短時間內(nèi)將 CPU 輪流分配給任務(wù),造成了多個任務(wù)同時運(yùn)行的假象。
CPU 上下文(CPU Context)
在每個任務(wù)運(yùn)行之前,CPU 需要知道在哪里加載和啟動任務(wù)。這意味著系統(tǒng)需要提前幫助設(shè)置 CPU 寄存器和程序計數(shù)器。
CPU 寄存器是內(nèi)置于 CPU 中的小型但速度極快的內(nèi)存。程序計數(shù)器用于存儲 CPU 正在執(zhí)行的或下一條要執(zhí)行指令的位置。
它們都是 CPU 在運(yùn)行任何任務(wù)之前必須依賴的依賴環(huán)境,因此也被稱為 “CPU 上下文”。如下圖所示:
知道了 CPU 上下文是什么,我想你理解CPU 上下文切換就很容易了?!癈PU上下文切換”指的是先保存上一個任務(wù)的 CPU 上下文(CPU寄存器和程序計數(shù)器),然后將新任務(wù)的上下文加載到這些寄存器和程序計數(shù)器中,最后跳轉(zhuǎn)到程序計數(shù)器。
這些保存的上下文存儲在系統(tǒng)內(nèi)核中,并在重新安排任務(wù)執(zhí)行時再次加載。這確保了任務(wù)的原始狀態(tài)不受影響,并且任務(wù)似乎在持續(xù)運(yùn)行。
CPU 上下文切換的類型
你可能會說 CPU 上下文切換無非就是更新 CPU 寄存器和程序計數(shù)器值,而這些寄存器是為了快速運(yùn)行任務(wù)而設(shè)計的,那為什么會影響 CPU 性能呢?
在回答這個問題之前,請問,你有沒有想過這些“任務(wù)”是什么?你可能會說一個任務(wù)就是一個進(jìn)程或者一個線程。是的,進(jìn)程和線程正是最常見的任務(wù),但除此之外,還有其他類型的任務(wù)。
別忘了硬件中斷也是一個常見的任務(wù),硬件觸發(fā)信號,會引起中斷處理程序的調(diào)用。
因此,CPU 上下文切換至少有三種不同的類型:
進(jìn)程上下文切換
線程上下文切換
中斷上下文切換
讓我們一一來看看。
進(jìn)程上下文切換
Linux 按照特權(quán)級別將進(jìn)程的運(yùn)行空間劃分為內(nèi)核空間和用戶空間,分別對應(yīng)下圖中Ring 0和Ring 3的 CPU 特權(quán)級別的 。
內(nèi)核空間(Ring 0)擁有最高權(quán)限,可以直接訪問所有資源。
用戶空間(Ring 3)只能訪問受限資源,不能直接訪問內(nèi)存等硬件設(shè)備,它必須通過系統(tǒng)調(diào)用被陷入(trapped)內(nèi)核中才能訪問這些特權(quán)資源。
從另一個角度看,一個進(jìn)程既可以在用戶空間也可以在內(nèi)核空間運(yùn)行。當(dāng)一個進(jìn)程在用戶空間運(yùn)行時,稱為該進(jìn)程的用戶態(tài),當(dāng)它落入內(nèi)核空間時,稱為該進(jìn)程的內(nèi)核態(tài)。
從用戶態(tài)到內(nèi)核態(tài)的轉(zhuǎn)換需要通過系統(tǒng)調(diào)用來完成。例如,當(dāng)我們查看一個文件的內(nèi)容時,我們需要以下系統(tǒng)調(diào)用:
open():打開文件
read():讀取文件的內(nèi)容
write():將文件的內(nèi)容寫入到輸出文件(包括標(biāo)準(zhǔn)輸出)
close():關(guān)閉文件
那么在上述系統(tǒng)調(diào)用過程中是否會發(fā)生 CPU 上下文切換呢?當(dāng)然是的。
這需要先保存 CPU 寄存器中原來的用戶態(tài)指令的位置。接下來,為了執(zhí)行內(nèi)核態(tài)的代碼,需要將 CPU 寄存器更新到內(nèi)核態(tài)指令的新位置。最后是跳轉(zhuǎn)到內(nèi)核態(tài)運(yùn)行內(nèi)核任務(wù)。
那么系統(tǒng)調(diào)用結(jié)束后,CPU 寄存器需要恢復(fù)原來保存的用戶狀態(tài),然后切換到用戶空間繼續(xù)運(yùn)行進(jìn)程。
因此,在一次系統(tǒng)調(diào)用的過程中,實(shí)際上有兩次 CPU 上下文切換。
但需要指出的是,系統(tǒng)調(diào)用進(jìn)程不會涉及進(jìn)程切換,也不會涉及虛擬內(nèi)存等系統(tǒng)資源切換。這與我們通常所說的“進(jìn)程上下文切換”不同。進(jìn)程上下文切換是指從一個進(jìn)程切換到另一個進(jìn)程,而系統(tǒng)調(diào)用期間始終運(yùn)行同一個進(jìn)程。
系統(tǒng)調(diào)用過程通常被稱為特權(quán)模式切換,而不是上下文切換。但實(shí)際上,在系統(tǒng)調(diào)用過程中,CPU 的上下文切換也是不可避免的。
進(jìn)程上下文切換 vs 系統(tǒng)調(diào)用
那么進(jìn)程上下文切換和系統(tǒng)調(diào)用有什么區(qū)別呢?首先,進(jìn)程是由內(nèi)核管理的,進(jìn)程切換只能發(fā)生在內(nèi)核態(tài)。因此,進(jìn)程上下文不僅包括虛擬內(nèi)存、棧和全局變量等用戶空間資源,還包括內(nèi)核棧和寄存器等內(nèi)核空間的狀態(tài)。
所以進(jìn)程上下文切換比系統(tǒng)調(diào)用要多出一步:
在保存當(dāng)前進(jìn)程的內(nèi)核狀態(tài)和 CPU 寄存器之前,需要保存進(jìn)程的虛擬內(nèi)存、棧等;并加載下一個進(jìn)程的內(nèi)核狀態(tài)。
根據(jù) Tsuna 的測試報告,每次上下文切換需要幾十納秒至微秒的 CPU 時間。這個時間是相當(dāng)可觀的,尤其是在大量進(jìn)程上下文切換的情況下,很容易導(dǎo)致 CPU 花費(fèi)大量時間來保存和恢復(fù)寄存器、內(nèi)核棧、虛擬內(nèi)存等資源。這正是我們在上一篇文章中談到的,一個導(dǎo)致平均負(fù)載上升的重要因素。
那么,該進(jìn)程何時會被調(diào)度/切換到在 CPU 上運(yùn)行?其實(shí)有很多場景,下面我為大家總結(jié)一下:
當(dāng)一個進(jìn)程的 CPU 時間片用完時,它會被系統(tǒng)掛起,并切換到其它等待 CPU 運(yùn)行的進(jìn)程。
當(dāng)系統(tǒng)資源不足(如內(nèi)存不足)時,直到資源充足之前,進(jìn)程無法運(yùn)行。此時進(jìn)程也會被掛起,系統(tǒng)會調(diào)度其它進(jìn)程運(yùn)行。
當(dāng)一個進(jìn)程通過 sleep函數(shù)自動掛起自己時,自然會被重新調(diào)度。
當(dāng)優(yōu)先級較高的進(jìn)程運(yùn)行時,為了保證高優(yōu)先級進(jìn)程的運(yùn)行,當(dāng)前進(jìn)程會被高優(yōu)先級進(jìn)程掛起運(yùn)行。
當(dāng)發(fā)生硬件中斷時,CPU上的進(jìn)程會被中斷掛起,轉(zhuǎn)而執(zhí)行內(nèi)核中的中斷服務(wù)程序。
了解這些場景是非常有必要的,因?yàn)橐坏┥舷挛那袚Q出現(xiàn)性能問題,它們就是幕后殺手。
線程上下文切換
線程和進(jìn)程最大的區(qū)別在于,線程是任務(wù)調(diào)度的基本單位,而進(jìn)程是資源獲取的基本單位。
說白了,內(nèi)核中所謂的任務(wù)調(diào)度,實(shí)際的調(diào)度對象是線程;而進(jìn)程只為線程提供虛擬內(nèi)存和全局變量等資源。所以,對于線程和進(jìn)程,我們可以這樣理解:
當(dāng)一個進(jìn)程只有一個線程時,可以認(rèn)為一個進(jìn)程等于一個線程。
當(dāng)一個進(jìn)程有多個線程時,這些線程共享相同的資源,例如虛擬內(nèi)存和全局變量。
此外,線程也有自己的私有數(shù)據(jù),比如棧和寄存器,在上下文切換時也需要保存。
這樣,線程的上下文切換其實(shí)可以分為兩種情況:
首先,前后兩個線程屬于不同的進(jìn)程。此時,由于資源不共享,切換過程與進(jìn)程上下文切換相同。
其次,前后兩個線程屬于同一個進(jìn)程。此時,由于虛擬內(nèi)存是共享的,所以切換時虛擬內(nèi)存的資源保持不變,只需要切換線程的私有數(shù)據(jù)、寄存器等未共享的數(shù)據(jù)。
顯然,同一個進(jìn)程內(nèi)的線程切換比切換多個進(jìn)程消耗的資源要少。這也是多線程替代多進(jìn)程的優(yōu)勢。
中斷上下文切換
除了前面兩種上下文切換之外,還有另外一種場景也輸出 CPU 上下文切換的,那就是中斷。
為了快速響應(yīng)事件,硬件中斷會中斷正常的調(diào)度和執(zhí)行過程,進(jìn)而調(diào)用中斷處理程序。
在中斷其他進(jìn)程時,需要保存進(jìn)程的當(dāng)前狀態(tài),以便中斷后進(jìn)程仍能從原始狀態(tài)恢復(fù)。
與進(jìn)程上下文不同,中斷上下文切換不涉及進(jìn)程的用戶態(tài)。因此,即使中斷進(jìn)程中斷了處于用戶態(tài)的進(jìn)程,也不需要保存和恢復(fù)進(jìn)程的虛擬內(nèi)存、全局變量等用戶態(tài)資源。
另外,和進(jìn)程上下文切換一樣,中斷上下文切換也會消耗 CPU。過多的切換次數(shù)會消耗大量的 CPU 資源,甚至嚴(yán)重降低系統(tǒng)的整體性能。因此,當(dāng)您發(fā)現(xiàn)中斷過多時,需要注意排查它是否會對您的系統(tǒng)造成嚴(yán)重的性能問題。
問題排查
工具
vmstat ——是一個常用的系統(tǒng)性能分析工具,主要用來分析系統(tǒng)的內(nèi)存使用情況,也常用來分析CPU上下文切換和中斷的次數(shù)。
pidstat ——vmstat只給出了系統(tǒng)總體的上下文切換情況,要想查看每個進(jìn)程的詳細(xì)情況,就需要使用pidstat,加上-w,可以查看每個進(jìn)程上下文切換的情況。
/proc/interrupts——/proc實(shí)際上是linux的虛擬文件系統(tǒng)用于內(nèi)核空間和用戶空間的通信,/proc/interrupts是這種通信機(jī)制的一部分,提供了一個只讀的中斷使用情況。
perf stat 可以統(tǒng)計很多和 CPU 相關(guān)核心數(shù)據(jù),比如 cache' miss,上下文切換,CPI 等。
實(shí) 戰(zhàn)
vmstat:
#每隔1秒輸出1組數(shù)據(jù)(需要Ctrl+C才結(jié)束) $vmstat1 procs-----------memory-------------swap-------io-----system--------cpu----- rbswpdfreebuffcachesisobiboincsussyidwast 600648742811824012927720000901913988301684000 8006487428118240129277200001019113923121684000 cs(contextswitch)是每秒上下文切換的次數(shù) in(interrupt)每秒中斷的次數(shù) r (Running or Runnnable)是就緒隊(duì)列的長度,也就是正在運(yùn)行和等待CPU的進(jìn)程數(shù)。 b(Blocked)則是處于不可中斷睡眠狀態(tài)的進(jìn)程數(shù) 分析: 查看cs大?。▽?shí)驗(yàn)時cs驟升到百萬) 同時注意r列(實(shí)驗(yàn)時為8),機(jī)器cpu為1,遠(yuǎn)遠(yuǎn)超過1,必然會有大量的CPU競爭 us和sy列,計算cpu使用率總和(實(shí)驗(yàn)加起來快100%,其中sy高達(dá)84%,說明cpu主要被內(nèi)核占用) in列,查看大?。▽?shí)驗(yàn)中驟升到一萬,說明中斷處理也是潛在的問題) 綜合可知,系統(tǒng)的就需隊(duì)列過長,也就是正在運(yùn)行和等待CPU的進(jìn)程數(shù)過多,導(dǎo)致了大量的上下文切換,而上下文切換導(dǎo)致了cpu占用率高
pidstat查看進(jìn)程上下文切換情況:
#每隔1秒輸出1組數(shù)據(jù)(需要Ctrl+C才結(jié)束) #-w參數(shù)表示輸出進(jìn)程切換指標(biāo),而-u參數(shù)則表示輸出CPU使用指標(biāo) $pidstat-w-u1 08:06:33UIDPID%usr%system%guest%wait%CPUCPUCommand 08:06:3401048830.00100.000.000.00100.000sysbench 08:06:340263260.001.000.000.001.000kworker/u4:2 08:06:33UIDPIDcswch/snvcswch/sCommand 08:06:340811.000.00rcu_sched 08:06:340161.000.00ksoftirqd/1 08:06:3404711.000.00hv_balloon 08:06:34012301.000.00iscsid 08:06:34040891.000.00kworker/1:5 08:06:34043331.000.00kworker/0:3 08:06:340104991.00224.00pidstat 08:06:34026326236.000.00kworker/u4:2 08:06:34100026784223.000.00sshd cswch 表示每秒自愿上下文切換的次數(shù),是指進(jìn)程無法獲取所需資源,導(dǎo)致的上下文切換,比如說,I/O,內(nèi)存等系統(tǒng)資源不足時,就會發(fā)生自愿上下文切換。 nvcswch 表示每秒非自愿上下文切換的次數(shù),則是指進(jìn)程由于時間片已到等原因,被系統(tǒng)強(qiáng)制調(diào)度,進(jìn)而發(fā)生的上下文切換。 分析: pidstat查看果然是sysbench導(dǎo)致了cpu達(dá)到100%,但上下文切換來自其他進(jìn)程,包括非自愿上下文切換最高的pidstat,以及自愿上下文切換最高的kworker和sshd 但pidtstat輸出的上下文切換次數(shù)加起來才幾百和vmstat的百萬明顯小很多,現(xiàn)在vmstat輸出的是線程,而pidstat加上-t后才輸出線程指標(biāo) #每隔1秒輸出一組數(shù)據(jù)(需要Ctrl+C才結(jié)束) #-wt參數(shù)表示輸出線程的上下文切換指標(biāo) $pidstat-wt1 08:14:05UIDTGIDTIDcswch/snvcswch/sCommand ... 08:14:05010551-6.000.00sysbench 08:14:050-105516.000.00|__sysbench 08:14:050-1055218911.00103740.00|__sysbench 08:14:050-1055318915.00100955.00|__sysbench 08:14:050-1055418827.00103954.00|__sysbench ... pidstat子線程加一起就差不多百萬了。
看中斷——可排查是哪些中斷引起的(變化速度最快的):
#-d參數(shù)表示高亮顯示變化的區(qū)域 $watch-dcat/proc/interrupts CPU0CPU1 ... RES:24504315279697Reschedulinginterrupts ...
觀察一段時間后,可以發(fā)現(xiàn)變化最快的是重新調(diào)度中斷(RES, REScheduling interrupt)。這種中斷類型表明處于空閑狀態(tài)的 CPU 被喚醒以調(diào)度新的任務(wù)運(yùn)行。所以這里的中斷增加是因?yàn)樘嗟娜蝿?wù)調(diào)度問題,這和前面上下文切換次數(shù)的分析結(jié)果是一致的。
現(xiàn)在回到最初的問題,每秒多少次上下文切換是正常的?
這個值實(shí)際上取決于系統(tǒng)本身的 CPU 性能。如果系統(tǒng)的上下文切換次數(shù)比較穩(wěn)定的話,幾百到一萬應(yīng)該是正常的。但是,當(dāng)上下文切換次數(shù)超過10000,或者切換次數(shù)快速增加時,很可能是出現(xiàn)了性能問題。
perf stat 可以排查系統(tǒng)上下文切換速率變化:
可以觀察 context-switcehes 數(shù)據(jù)的變化,有沒有突增,可以發(fā)現(xiàn)一些異常想象。
場 景
根據(jù)調(diào)度策略,將 CPU 時間劃片為對應(yīng)的時間片,當(dāng)時間片耗盡,當(dāng)前進(jìn)程必須掛起。
資源不足的,在獲取到足夠資源之前進(jìn)程掛起。
進(jìn)程 sleep 掛起進(jìn)程。
高優(yōu)先級進(jìn)程導(dǎo)致當(dāng)前進(jìn)度掛起。
硬件中斷,導(dǎo)致當(dāng)前進(jìn)程掛起。
小 結(jié)
CPU 上下文切換,是保證 Linux 系統(tǒng)正常工作的核心功能之一,一般情況下不需要我們特別關(guān)注。
但過多的上下文切換,會把 CPU 時間消耗在寄存器,內(nèi)核棧以及虛擬內(nèi)存等數(shù)據(jù)的保存和恢復(fù)上,從而縮短進(jìn)程真正運(yùn)行的時間,導(dǎo)致系統(tǒng)的整體性能大幅下降。
自愿上下文切換變多了,說明進(jìn)程都在等待資源,有可能發(fā)生了 I/O 等其他問題。
非自愿上下文切換變多了,說明進(jìn)程都在被強(qiáng)制調(diào)度,也就是都在爭搶 CPU,說明 CPU 的確成了瓶頸。
中斷次數(shù)變多了,說明 CPU 被中斷處理程序占用,還需要通過查看 /proc/interrupts 文件來分析具體的中斷類型。
審核編輯 :李倩
-
cpu
+關(guān)注
關(guān)注
68文章
10807瀏覽量
210854 -
Linux
+關(guān)注
關(guān)注
87文章
11212瀏覽量
208724 -
計數(shù)器
+關(guān)注
關(guān)注
32文章
2253瀏覽量
94289
原文標(biāo)題:詳細(xì)解讀 Linux CPU的上下文切換過程
文章出處:【微信號:嵌入式情報局,微信公眾號:嵌入式情報局】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論