Linux CPU上下文切換

我們都知道 Linux 是一個(gè)多任務(wù)操作系統(tǒng)，它支持的任務(wù)同時(shí)運(yùn)行的數(shù)量遠(yuǎn)遠(yuǎn)大于 CPU 的數(shù)量。當(dāng)然，這些任務(wù)實(shí)際上并不是同時(shí)運(yùn)行的（Single CPU），而是因?yàn)橄到y(tǒng)在短時(shí)間內(nèi)將 CPU 輪流分配給任務(wù)，造成了多個(gè)任務(wù)同時(shí)運(yùn)行的假象。

CPU 上下文（CPU Context）

在每個(gè)任務(wù)運(yùn)行之前，CPU 需要知道在哪里加載和啟動(dòng)任務(wù)。這意味著系統(tǒng)需要提前幫助設(shè)置 CPU 寄存器和 程序計(jì)數(shù)器 。

CPU 寄存器是內(nèi)置于 CPU 中的小型但速度極快的內(nèi)存。程序計(jì)數(shù)器用于存儲(chǔ) CPU 正在執(zhí)行的或下一條要執(zhí)行指令的位置。

它們都是 CPU 在運(yùn)行任何任務(wù)之前必須依賴的依賴環(huán)境，因此也被稱為 “CPU 上下文”。如下圖所示：

知道了 CPU 上下文是什么，我想你理解 CPU 上下文切換就很容易了?！癈PU上下文切換”指的是先保存上一個(gè)任務(wù)的 CPU 上下文（CPU寄存器和程序計(jì)數(shù)器），然后將新任務(wù)的上下文加載到這些寄存器和程序計(jì)數(shù)器中，最后跳轉(zhuǎn)到程序計(jì)數(shù)器。

這些保存的上下文存儲(chǔ)在系統(tǒng)內(nèi)核中，并在重新安排任務(wù)執(zhí)行時(shí)再次加載。這確保了任務(wù)的原始狀態(tài)不受影響，并且任務(wù)似乎在持續(xù)運(yùn)行。

CPU 上下文切換的類型

你可能會(huì)說(shuō) CPU 上下文切換無(wú)非就是更新 CPU 寄存器和程序計(jì)數(shù)器值，而這些寄存器是為了快速運(yùn)行任務(wù)而設(shè)計(jì)的，那為什么會(huì)影響 CPU 性能呢？

在回答這個(gè)問(wèn)題之前，請(qǐng)問(wèn)，你有沒(méi)有想過(guò)這些“任務(wù)”是什么？你可能會(huì)說(shuō)一個(gè)任務(wù)就是一個(gè)進(jìn)程或者一個(gè) 線程 。是的，進(jìn)程和線程正是最常見的任務(wù)，但除此之外，還有其他類型的任務(wù)。

別忘了硬件中斷也是一個(gè)常見的任務(wù)，硬件觸發(fā)信號(hào)，會(huì)引起中斷處理程序的調(diào)用。

因此，CPU 上下文切換至少有三種不同的類型：

• 進(jìn)程上下文切換
• 線程上下文切換
• 中斷上下文切換

讓我們一一來(lái)看看。

進(jìn)程上下文切換

Linux 按照特權(quán)級(jí)別將進(jìn)程的運(yùn)行空間劃分為內(nèi)核空間和用戶空間，分別對(duì)應(yīng)下圖中 Ring 0 和 Ring 3 的 CPU 特權(quán)級(jí)別的 。

• 內(nèi)核空間 （Ring 0）擁有最高權(quán)限，可以直接訪問(wèn)所有資源
• 用戶空間 （Ring 3）只能訪問(wèn)受限資源，不能直接訪問(wèn)內(nèi)存等硬件設(shè)備。它必須通過(guò)系統(tǒng)調(diào)用被 陷入（trapped） 內(nèi)核中才能訪問(wèn)這些特權(quán)資源。

從另一個(gè)角度看，一個(gè)進(jìn)程既可以在用戶空間也可以在內(nèi)核空間運(yùn)行。當(dāng)一個(gè)進(jìn)程在用戶空間運(yùn)行時(shí)，稱為該進(jìn)程的 用戶態(tài) ，當(dāng)它落入內(nèi)核空間時(shí)，稱為該進(jìn)程的 內(nèi)核態(tài) 。

從用戶態(tài)到內(nèi)核態(tài)的轉(zhuǎn)換需要通過(guò)系統(tǒng)調(diào)用來(lái)完成。例如，當(dāng)我們查看一個(gè)文件的內(nèi)容時(shí)，我們需要以下系統(tǒng)調(diào)用：

• open()：打開文件
• read()：讀取文件的內(nèi)容
• write()：將文件的內(nèi)容寫入到輸出文件（包括標(biāo)準(zhǔn)輸出）
• close()：關(guān)閉文件

那么在上述系統(tǒng)調(diào)用過(guò)程中是否會(huì)發(fā)生 CPU 上下文切換呢？當(dāng)然是的。

這需要先保存 CPU 寄存器中原來(lái)的用戶態(tài)指令的位置。接下來(lái)，為了執(zhí)行內(nèi)核態(tài)的代碼，需要將 CPU 寄存器更新到內(nèi)核態(tài)指令的新位置。最后是跳轉(zhuǎn)到內(nèi)核態(tài)運(yùn)行內(nèi)核任務(wù)。

那么系統(tǒng)調(diào)用結(jié)束后，CPU 寄存器需要恢復(fù)原來(lái)保存的用戶狀態(tài)，然后切換到用戶空間繼續(xù)運(yùn)行進(jìn)程。

因此，在一次系統(tǒng)調(diào)用的過(guò)程中，實(shí)際上有兩次 CPU 上下文切換。

但需要指出的是，系統(tǒng)調(diào)用進(jìn)程不會(huì)涉及進(jìn)程切換，也不會(huì)涉及虛擬內(nèi)存等系統(tǒng)資源切換。這與我們通常所說(shuō)的“進(jìn)程上下文切換”不同。進(jìn)程上下文切換是指從一個(gè)進(jìn)程切換到另一個(gè)進(jìn)程，而系統(tǒng)調(diào)用期間始終運(yùn)行同一個(gè)進(jìn)程

系統(tǒng)調(diào)用過(guò)程通常被稱為 特權(quán)模式切換 ，而不是 上下文切換 。但實(shí)際上，在系統(tǒng)調(diào)用過(guò)程中，CPU 的上下文切換也是不可避免的。

進(jìn)程上下文切換 vs 系統(tǒng)調(diào)用

那么進(jìn)程上下文切換和系統(tǒng)調(diào)用有什么區(qū)別呢？首先，進(jìn)程是由內(nèi)核管理的，進(jìn)程切換只能發(fā)生在內(nèi)核態(tài)。因此，進(jìn)程上下文不僅包括 虛擬內(nèi)存 、棧和全局變量等用戶空間資源，還包括內(nèi)核棧和寄存器等內(nèi)核空間的狀態(tài)。

所以進(jìn)程上下文切換比系統(tǒng)調(diào)用要多出一步：

在保存當(dāng)前進(jìn)程的內(nèi)核狀態(tài)和 CPU 寄存器之前，需要保存進(jìn)程的虛擬內(nèi)存、棧等；并加載下一個(gè)進(jìn)程的內(nèi)核狀態(tài)。

根據(jù) Tsuna 的測(cè)試報(bào)告，每次上下文切換需要幾十納秒至微秒的 CPU 時(shí)間。這個(gè)時(shí)間是相當(dāng)可觀的，尤其是在大量進(jìn)程上下文切換的情況下，很容易導(dǎo)致 CPU 花費(fèi)大量時(shí)間來(lái)保存和恢復(fù)寄存器、內(nèi)核棧、虛擬內(nèi)存等資源。這正是我們?cè)谏弦黄恼轮姓劦降?，一個(gè)導(dǎo)致平均負(fù)載上升的重要因素。

那么，該進(jìn)程何時(shí)會(huì)被調(diào)度/切換到在 CPU 上運(yùn)行？其實(shí)有很多場(chǎng)景，下面我為大家總結(jié)一下：

• 當(dāng)一個(gè)進(jìn)程的 CPU 時(shí)間片用完時(shí)，它會(huì)被系統(tǒng) 掛起 ，并切換到其他等待 CPU 運(yùn)行的進(jìn)程。
• 當(dāng)系統(tǒng)資源不足（如內(nèi)存不足）時(shí)，直到資源充足之前，進(jìn)程無(wú)法運(yùn)行。此時(shí)進(jìn)程也會(huì)被 掛起 ，系統(tǒng)會(huì)調(diào)度其他進(jìn)程運(yùn)行。
• 當(dāng)一個(gè)進(jìn)程通過(guò) sleep 函數(shù)自動(dòng)掛起自己時(shí)，自然會(huì)被重新調(diào)度。
• 當(dāng)優(yōu)先級(jí)較高的進(jìn)程運(yùn)行時(shí)，為了保證高優(yōu)先級(jí)進(jìn)程的運(yùn)行，當(dāng)前進(jìn)程會(huì)被高優(yōu)先級(jí)進(jìn)程 掛起運(yùn)行 。
• 當(dāng)發(fā)生硬件中斷時(shí)，CPU 上的進(jìn)程會(huì)被 中斷掛起 ，轉(zhuǎn)而執(zhí)行內(nèi)核中的中斷服務(wù)程序。

了解這些場(chǎng)景是非常有必要的，因?yàn)橐坏┥舷挛那袚Q出現(xiàn)性能問(wèn)題，它們就是幕后殺手。

線程上下文切換

線程和進(jìn)程最大的區(qū)別在于，線程是任務(wù)調(diào)度的基本單位，而進(jìn)程是資源獲取的基本單位。

說(shuō)白了，內(nèi)核中所謂的任務(wù)調(diào)度，實(shí)際的調(diào)度對(duì)象是線程；而進(jìn)程只為線程提供虛擬內(nèi)存和全局變量等資源。所以，對(duì)于線程和進(jìn)程，我們可以這樣理解：

• 當(dāng)一個(gè)進(jìn)程只有一個(gè)線程時(shí)，可以認(rèn)為一個(gè)進(jìn)程等于一個(gè)線程
• 當(dāng)一個(gè)進(jìn)程有多個(gè)線程時(shí)，這些線程共享相同的資源，例如虛擬內(nèi)存和全局變量。
• 此外，線程也有自己的私有數(shù)據(jù)，比如棧和寄存器，在上下文切換時(shí)也需要保存。

這樣，線程的上下文切換其實(shí)可以分為兩種情況：

• 首先，前后兩個(gè)線程屬于不同的進(jìn)程。此時(shí)，由于資源不共享，切換過(guò)程與進(jìn)程上下文切換相同。
• 其次，前后兩個(gè)線程屬于同一個(gè)進(jìn)程。此時(shí)，由于虛擬內(nèi)存是共享的，所以切換時(shí)虛擬內(nèi)存的資源保持不變，只需要切換線程的私有數(shù)據(jù)、寄存器等未共享的數(shù)據(jù)。

顯然，同一個(gè)進(jìn)程內(nèi)的線程切換比切換多個(gè)進(jìn)程消耗的資源要少。這也是多線程替代多進(jìn)程的優(yōu)勢(shì)。

中斷上下文切換

除了前面兩種上下文切換之外，還有另外一種場(chǎng)景也輸出 CPU 上下文切換的，那就是 中斷 。

為了快速響應(yīng)事件，硬件中斷會(huì)中斷正常的調(diào)度和執(zhí)行過(guò)程，進(jìn)而調(diào)用 中斷處理程序 。

在中斷其他進(jìn)程時(shí)，需要保存進(jìn)程的當(dāng)前狀態(tài)，以便中斷后進(jìn)程仍能從原始狀態(tài)恢復(fù)。

與進(jìn)程上下文不同，中斷上下文切換不涉及進(jìn)程的用戶態(tài)。因此，即使中斷進(jìn)程中斷了處于用戶態(tài)的進(jìn)程，也不需要保存和恢復(fù)進(jìn)程的虛擬內(nèi)存、全局變量等用戶態(tài)資源。

另外，和進(jìn)程上下文切換一樣，中斷上下文切換也會(huì)消耗 CPU。過(guò)多的切換次數(shù)會(huì)消耗大量的 CPU 資源，甚至嚴(yán)重降低系統(tǒng)的整體性能。因此，當(dāng)發(fā)現(xiàn)中斷過(guò)多時(shí)，需要注意排查它是否會(huì)對(duì)您的系統(tǒng)造成嚴(yán)重的性能問(wèn)題。

小結(jié)

• CPU上下文切換，是保證Linux系統(tǒng)正常工作的核心功能之一，一般情況下不需要我們特別關(guān)注。
• 但過(guò)多的上下文切換，會(huì)把CPU時(shí)間消耗在寄存器，內(nèi)核棧以及虛擬內(nèi)存等數(shù)據(jù)的保存和恢復(fù)上，從而縮短進(jìn)程真正運(yùn)行的時(shí)間，導(dǎo)致系統(tǒng)的整體性能大幅下降。
• 自愿上下文切換變多了，說(shuō)明進(jìn)程都在等待資源，有可能發(fā)生了 I/O 等其他問(wèn)題
• 非自愿上下文切換變多了，說(shuō)明進(jìn)程都在被強(qiáng)制調(diào)度，也就是都在爭(zhēng)搶 CPU，說(shuō)明 CPU 的確成了瓶頸
• 中斷次數(shù)變多了，說(shuō)明 CPU 被中斷處理程序占用，還需要通過(guò)查看 /proc/interrupts 文件來(lái)分析具體的中斷類型。

參考

https://medium.com/geekculture/linux-cpu-context-switch-deep-dive-764bfdae4f01