0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

GIL在CPython解釋器中的工作原理

FPGA之家 ? 來源:編程技術宇宙 ? 作者:軒轅之風 ? 2022-09-01 10:24 ? 次閱讀

我是一個Python線程,我的工作就是解釋執(zhí)行程序員編寫的Python代碼。

之所以說是解釋執(zhí)行,是因為Python是高級語言,CPU那家伙不認識Python代碼,需要運行的時候動態(tài)翻譯成CPU指令。

a961259e-2996-11ed-ba43-dac502259ad0.png

我把Python源代碼經(jīng)過“編譯”以后,變成了一個個的字節(jié)碼文件:.pyc,這是一個二進制的文件,人類是看不懂的,只有我才能看懂。

然后我的工作就簡單了,不斷的取出字節(jié)碼文件中的“指令”解釋執(zhí)行,直到所有指令都執(zhí)行完成,我就可以休息了。

a973c690-2996-11ed-ba43-dac502259ad0.png

GIL

后來,多線程編程技術流行了起來,進程里不止我一個線程了,又來了幾個新的伙伴。

本以為我們能和平共處,沒想到這一來就麻煩了,我們幾個各干各的,經(jīng)常把內(nèi)存空間搞出問題,也找不到背鍋的人。

終于有一天,我實在忍受不了了,召集大家商討個解決辦法。

“小伙伴們,咱們不能再這樣各搞各的了,咱們是一個Team,要彼此協(xié)作,一個線程可以走的很快,但一群線程在一起才能走的更遠吶!”

“老大,你有什么想法你就直說吧”,另一個線程說到。

“要不,咱們加個鎖吧!簡單快捷,每個線程要執(zhí)行代碼,都得來申請這個鎖,申請到了才能執(zhí)行,否則就得等著”,我說到。

“那什么時候釋放呢?”

“要不弄個計數(shù)器,每個線程數(shù)到100就釋放,這樣保證別人有機會來執(zhí)行?”

“那怎么計數(shù)呢?每執(zhí)行一個字節(jié)碼就計數(shù)一次嗎?”

“可以,不過也不用那么死板,有些指令比較簡單的,很快可以完成,就可以不用計數(shù)了”

“好是好,但要是還沒數(shù)夠100,卻在執(zhí)行I/O操作阻塞了,還把鎖霸占的話,那不是資源浪費嗎?”

小伙伴們七嘴八舌的討論著。

a98d4a48-2996-11ed-ba43-dac502259ad0.png

我想了想說到:“那就這樣,把兩種情況結合一下,常規(guī)情況下數(shù)到100就釋放一次鎖,但如果遇到阻塞情況,也要提前釋放鎖,怎么樣?”

大伙紛紛點頭,達成了一致,隨后我們還給這個鎖取了一個名字:全局解釋器鎖GIL。

自從用上了GIL,我們大家伙干活都規(guī)矩多了,再也沒有出現(xiàn)把公共資源搞壞的情況了。

升級版GIL

再后來,多核技術開始興起了,一個CPU里面可以同時執(zhí)行多個線程。小伙伴們高興地把這個消息散播開了。

“老大,現(xiàn)在CPU有多核了,咱們可以一起執(zhí)行了,可不可以把那個GIL給去掉啊,這樣才能利用多核的優(yōu)勢啊。”

“是啊,隔壁Java線程老是嘲笑我們看起來人多,實際只有一個線程在執(zhí)行”

可說易行難,這么多年我們都是這樣工作的,要突然去掉,出了問題誰也不敢負責啊。

“可是老大,現(xiàn)在這個GIL鎖不公平”,新來的線程抱怨到。

“哪里不公平了?”

“我準備執(zhí)行代碼,發(fā)現(xiàn)鎖在你的手里,只好原地等待,等了半天都睡著了,好不容易等到你釋放了,操作系統(tǒng)把我給喚醒,準備去申請鎖,結果發(fā)現(xiàn)又被你搶到了,真是浪費表情”,新的線程滿臉委屈。

“是啊,老大,我也發(fā)現(xiàn)了,這不是偶發(fā)現(xiàn)象,我觀察很久了,經(jīng)常都會發(fā)生!頻繁被喚醒,卻發(fā)現(xiàn)白忙活一場,白白浪費CPU資源,大家都怨氣很大啊”,另一個線程伙伴也說到。

a99c8710-2996-11ed-ba43-dac502259ad0.png

我有些不好意思,“嗯,這確實是個問題”

“還沒完呢”,新來的線程繼續(xù)說到:“現(xiàn)在按照字節(jié)碼指令數(shù)來統(tǒng)計,但有些指令碼簡單,有些很復雜,導致同樣數(shù)到100,有些線程可以運行很久,而有些就運行很快就結束了,也不公平”

小伙伴們提的問題都很重要,看來是時候對GIL進行一次升級了。

經(jīng)過一陣激烈的討論,我們改進了原來對GIL,用上了新的策略:

不再用計數(shù)的方式,改用時間片的方式:每個線程的執(zhí)行時間片是5000微秒。

為了保證釋放GIL后,不被自己馬上又搶到,新增了一個鎖實現(xiàn)強制線程切換

改進以后,這下總算公平了,各位小伙伴再也沒有話說,又可以安心的工作了。

結語

Python是一門解釋執(zhí)行的語言,擁有強大的第三方庫和跨平臺能力,近幾年Python煥發(fā)了第二春,橫掃爬蟲、web開發(fā)、機器學習等眾多領域。

但長期以來,Python最為人詬病的就是它有一把鎖:GIL,這把鎖讓Python無法真正的實現(xiàn)多線程執(zhí)行,無法利用多核CPU的高性能。

實際上,這個鎖跟Python沒有半毛錢的關系,而是負責解釋執(zhí)行Python的解釋器:CPython的鍋。

CPython是用C語言編寫的Python解釋器,也是最廣為使用的Python解釋器,一般在沒有特殊說明時,說Python指的就是這個CPython解釋器。

Python誕生之初,多線程技術還遠沒有今天這么深入人心,甚至多核CPU也是Python誕生許多年后才出現(xiàn)的。早期的解釋器中為了支持多個線程,使用了粗暴的GIL來進行控制,方便簡單的同時,也成為了CPython的巨大歷史包袱。

Python3.2之前,Python使用簡單的計數(shù)法來統(tǒng)計控制每個線程執(zhí)行的時間。在這之后,引入了更為公平的時間片方式來升級替換。

過去二十年,曾經(jīng)有許許多多大牛都嘗試徹底去除GIL,但都沒有完美成功。

雖然Python沒能徹底去除GIL,好在,提供了其他幾種方式“曲線救國”實現(xiàn)并發(fā):

Ctypes 通過編寫C語言擴展與Python交互,在C語言層面繞過GIL實現(xiàn)多核利用。

MultiProcess Python提供了MultiProcess,通過多進程的方式繞過GIL

協(xié)程 協(xié)程又稱用戶態(tài)線程,Python3.4版本后新增了對協(xié)程的支持,也是對性能的提升提供了一種選擇。



審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • cpu
    cpu
    +關注

    關注

    68

    文章

    10702

    瀏覽量

    209358
  • 計數(shù)器
    +關注

    關注

    32

    文章

    2241

    瀏覽量

    93972
  • python
    +關注

    關注

    53

    文章

    4753

    瀏覽量

    84077
  • GIL
    GIL
    +關注

    關注

    0

    文章

    5

    瀏覽量

    6985

原文標題:天啦嚕!Python多線程居然是騙人的?

文章出處:【微信號:zhuyandz,微信公眾號:FPGA之家】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    光耦合工作原理介紹

    電子電路設計,光耦合是一種關鍵元件,它通過光信號傳輸信息,實現(xiàn)電氣隔離。這種獨特的工作機制使得光耦合
    的頭像 發(fā)表于 09-14 10:37 ?135次閱讀
    光耦合<b class='flag-5'>器</b>的<b class='flag-5'>工作原理</b>介紹

    壓敏電阻開關電源工作原理

    壓敏電阻(Varistor)是一種非線性電阻元件,其電阻值隨著電壓的增加而急劇減小。開關電源,壓敏電阻主要用于保護電路免受電壓尖峰和浪涌電流的損害。 1. 壓敏電阻的基本特性 壓敏電阻的主要材料
    的頭像 發(fā)表于 09-06 09:10 ?184次閱讀

    VCO的工作原理是什么

    VCO(Voltage-Controlled Oscillator,電壓控制振蕩)的工作原理是基于電子器件的非線性特性,通過改變輸入電壓來調整輸出信號的頻率。以下是對VCO工作原理的詳細闡述,包括其電路結構、
    的頭像 發(fā)表于 08-20 17:16 ?313次閱讀

    驅動工作原理

    驅動工作原理 驅動,又稱為執(zhí)行,是將電能、氣能、液壓能等能量轉換為機械能的裝置。驅動廣泛應用于工業(yè)自動化、機器人、航空航天、汽車制
    的頭像 發(fā)表于 06-10 16:08 ?1434次閱讀

    信號發(fā)生工作原理

    信號發(fā)生工作原理主要是基于電路的振蕩和放大器來產(chǎn)生、調整和輸出所需的電信號。
    的頭像 發(fā)表于 05-07 15:39 ?613次閱讀

    磁阻效應傳感工作原理

    傳感工作原理。 首先,需要了解一些基礎概念。材料中,電子具有自旋和電荷兩個性質。自旋是量子力學的一個概念,指的是電子自身固有的旋轉角動量。磁性材料的原子內(nèi)部的電子
    的頭像 發(fā)表于 03-06 15:54 ?865次閱讀

    數(shù)字電位的基本工作原理 數(shù)字電位電路的作用

    至關重要的作用,可以用于音頻控制、亮度調節(jié)、電壓調節(jié)等許多應用。本文將詳細解釋數(shù)字電位工作原理,并介紹其電路
    的頭像 發(fā)表于 02-02 13:51 ?3804次閱讀
    數(shù)字電位<b class='flag-5'>器</b>的基本<b class='flag-5'>工作原理</b> 數(shù)字電位<b class='flag-5'>器</b><b class='flag-5'>在</b>電路<b class='flag-5'>中</b>的作用

    發(fā)電系統(tǒng)負載有什么用?負載是什么工作原理和結構?

    發(fā)電系統(tǒng)負載有什么用?負載是什么工作原理和結構? 負載
    的頭像 發(fā)表于 01-04 15:29 ?667次閱讀

    信號隔離工作原理和作用

    信號隔離是一種廣泛應用于工業(yè)控制系統(tǒng)的電氣設備,其主要功能是電路實現(xiàn)信號的隔離和傳輸。信號隔離可以有效地解決地環(huán)路干擾、電磁干擾等
    的頭像 發(fā)表于 01-03 11:22 ?2060次閱讀

    霍爾元件的工作原理及其低速測量的應用

    霍爾元件的工作原理及其低速測量的應用? 霍爾元件是一種常用的物理傳感,可以測量磁場的強度和方向。它是通過霍爾效應來工作的,霍爾效應是指
    的頭像 發(fā)表于 12-18 14:56 ?1097次閱讀

    數(shù)據(jù)轉換采樣過程的工作原理

    電子發(fā)燒友網(wǎng)站提供《數(shù)據(jù)轉換采樣過程的工作原理.pdf》資料免費下載
    發(fā)表于 11-28 10:31 ?1次下載
    數(shù)據(jù)轉換<b class='flag-5'>器</b><b class='flag-5'>中</b>采樣過程的<b class='flag-5'>工作原理</b>

    數(shù)據(jù)轉換采樣過程的工作原理

    電子發(fā)燒友網(wǎng)站提供《數(shù)據(jù)轉換采樣過程的工作原理.pdf》資料免費下載
    發(fā)表于 11-27 10:50 ?0次下載
    數(shù)據(jù)轉換<b class='flag-5'>器</b><b class='flag-5'>中</b>采樣過程的<b class='flag-5'>工作原理</b>

    電路怎么辨別運放和電壓比較?

    應用中有著不同的功能和特點。本篇文章,我將詳盡、詳實、細致地解釋如何辨別運放和電壓比較,并介紹它們的工作原理、應用和差異。 首先,讓我
    的頭像 發(fā)表于 11-22 16:17 ?1101次閱讀

    振蕩工作原理解析

    在這篇文章,我們將介紹振蕩(OSC)的工作原理。
    的頭像 發(fā)表于 11-22 14:36 ?3582次閱讀
    振蕩<b class='flag-5'>器</b>的<b class='flag-5'>工作原理</b>解析

    勵磁工作原理

      勵磁工作原理是指在電磁設備通過外加電流或磁場來增強設備的磁場強度的過程。電磁設備,勵磁是非常重要的步驟,它能夠保證設備正常運行,
    的頭像 發(fā)表于 09-27 11:03 ?3027次閱讀