Python 為了提升性能,竟運用了共用經濟

来源:https://www.cnblogs.com/pythonista/archive/2019/09/13/11517762.html
-Advertisement-
Play Games

大家或許知道,Python 為了提高記憶體的利用效率,採用了一套共用對象記憶體的分配策略。 例如,對於那些數值較小的數字對象([ 5, 256])、布爾值對象、None 對象、較短的字元串對象( 通常 是 20)等等,字面量相等的對象實際上是同一個對象。 我很早的時候曾寫過一篇《 "Python中的“特 ...


大家或許知道,Python 為了提高記憶體的利用效率,採用了一套共用對象記憶體的分配策略。

例如,對於那些數值較小的數字對象([-5, 256])、布爾值對象、None 對象、較短的字元串對象(通常 是 20)等等,字面量相等的對象實際上是同一個對象。

# 共用記憶體地址的例子
a = 100
b = 100
s = "python_cat"
t = "python_cat"

id(a) == id(b) # 結果:True
id(s) == id(t) # 結果:True

我很早的時候曾寫過一篇《Python中的“特權種族”是什麼?》,把這些對象統稱為“特權種族”,它們是 Python 在記憶體管理機制上使用的優化技巧。

前不久,我還寫了一篇《Python 記憶體分配時的小秘密》,也是介紹記憶體管理的技巧。

這兩篇文章有所區別:舊文主要涉及了記憶體共用與對象駐留的機制,而新文介紹的是記憶體分配、動態擴容以及記憶體回收的相關機制。

它們令我不由自主地想到兩個詞:共用經濟與供需平衡。

如果你沒有讀過那兩篇文章,我強烈建議你先回看一下,然後再看看我的聯想是否有道理:那幾類特權種族對象其實是在共用記憶體,錶面上的不同對象,其實是在迴圈利用;至於供需平衡也好理解,創建某些對象時,按照預期的訴求去分配記憶體,在擴容時則靈活調節,達到了供需之間的平衡。

透過現象看本質,Python 可以很有趣。

但是,Python 的有趣之處還不止於此,本文要繼續分享另一種記憶體管理機制,在某種程度上,它實現了共用經濟與供需平衡的融合,我們從中可揭開 Python 的另一重身份……

1、不可變對象的共用經濟

上面列出的"特權種族"都是不可變對象(而“供需平衡”主要出現於可變對象),對於這些不變的對象,當出現多處使用時,共用一個對象似乎是種不錯的優化方法。

我曾有一種猜想:Python 的不可變對象都可能是特權種族。

我沒有試圖去完全證實它,本文只想考察其中一種不可變對象:元組。它是不可變對象,那麼,是否有共用對象的機制呢?

下麵把它跟列表作一下對比:

# 空對象的差別
a = []
b = []
c = ()
d = ()

print(id(a)==id(b))  # 結果:False
print(id(c)==id(d))  # 結果:True

由此可見,兩個空列表是不同的對象,而兩個空元組其實是同一個對象。這至少說明瞭,空元組在記憶體中只有一個,它屬於已提到的特權種族。

將實驗延伸到集合與字典,它們是可變對象,你會發現結果跟列表一樣,存在多個副本,即不是特權種族。我就不舉例了。

由上述的實驗結果,還能引出兩個問題,但是它們偏離了本文主題,我不打算深入辨析,簡單列一下:

  • 除了空元組,還有什麼樣的元組是“特權種族”?(PS:從元素的數量、類型、元素自身的大小考慮,就我小範圍試驗,還沒發現。所以,空元組是獨特的唯一?)
  • 編譯期與運行期有所區別,這在之前寫字元串的 intern 機制時(《Intern機制的軟肋》)也分析過。(PS:print(id([]) == id([])),結果為 True,與上例先賦值再比較不同。)

2、可變對象的共用經濟

空元組體現了共用經濟,但由於它是不可變對象,所以不存在動態擴容,就只體現了極少的供需平衡。

作為對照,列表等可變對象充分表現了供需平衡,卻似乎沒辦法體現共用經濟。

比如說,我們把一個列表想象成一個可自增的杯子(畢竟它是某種容器),再把它的元素想象成不同種類的液體(水、可樂、酒……)。

那麼,我們的問題是:兩杯東西是否可以共用為一個對象呢?或者說,有沒有可能共用那隻杯子呢?這樣就可以節省記憶體(在那篇講小秘密的文章中展示過:“空杯子”占用的記憶體可不少),提升效率啦。

對於第一個問題,答案為否,驗證過程略。對於第二個問題,在上一節中,我們已驗證過兩個空杯子(即空列表),答案也為否。

但是,第二個問題還有其它的可能!下麵讓我們換一種實驗方法:

# 實驗版本:Python 3.6.1
a = [[] for i in range(4)]
print(id(a))

for i in range(len(a)):
    print(f'{i} -- {id(a[i])}')
    # a[i] = 1 # PS:可去除註釋,再執行一次,結果的順序有差別

del a
print("after del")

b = [[] for i in range(4)]
print(id(b))

for i in range(len(b)):
    print(f'{i} -- {id(b[i])}')

以上代碼在不同環境中,執行結果可能有所差異。我執行的一次結果如下:

2012909395656
0 -- 2012909395272
1 -- 2012909406472
2 -- 2012909395208
3 -- 2012909395144
after del
2012909395656
0 -- 2012909395272
1 -- 2012909406472
2 -- 2012909395208
3 -- 2012909395144

分析結果可知:列表對象在被回收之後,並不會徹底消除,它的記憶體地址會傳遞給新創建的列表,也就是說,新創建的列表其實共用了舊列表的記憶體地址!

再結合前面的例子,我們可以說,先後靜態創建的兩個列表會分配不同的記憶體地址,但是,經過動態回收之後,先後創建的列表可能是同一個記憶體地址!(註意:這裡說的是“可能”,因為在新列表創建前,若有其它地方也在創建列表,那後者可能奪去先機。)

延伸到其它基本的可變對象,例如集合與字典,也有同樣的共用策略,其目的顯而易見:迴圈利用這些對象的“殘軀”,可以避免記憶體碎片,提高執行性能。

共用一隻杯子,總比重新創造一隻杯子,要更高效便捷,對吧?

Python 解釋器在實現這個機制時,使用了一個叫做free_list 的全局變數,其工作原理是:

  • 當創建新的對象時,則檢查 free_list 內是否有可用對象,有則取出使用,沒有則創建
  • 當這些對象被析構時,則檢查 free_list 是否有剩餘空間,有則存入其中
  • 某類對象存入 free_list 時,只保留“軀殼”,而清空其內部所有的元素(即只共用杯子,不共用杯中物)

圖片來源:https://dwz.cn/QWD6RxOx

好了,現在我們可以說,列表、集合與字典這些可變對象,它們都不是前文所說的特權種族,但是,在它們背後都藏著迴圈使用的共用思想,這一點卻是相通的。

Python 解釋器在記憶體管理上真是煞費苦心啊,在那些司空見慣的基本對象上,它施加了諸多的小魔法,在我們毫不覺察的時候,它們有條不紊地運作,而當我們終於見識清楚後,就不得不感嘆它的精妙了。

Python 算得上是一個精打細算的“經濟學家”了。

回顧全文,最後作一個小結:

  • 較小的數字、較短的字元串、布爾值與空元組等不可變對象,它們存在著“共用經濟”的機制,提升了記憶體的使用效率
  • 列表、集合與字典等可變對象,它們存在著預分配及超額分配等“供需平衡”的機制,提升了記憶體的分配效率
  • 列表等對象還存在著共用“容器外殼”的機制,迴圈利用空閑資源,綜合提升程式性能

PS:本文寫作過半時,我覺得應該把它寫入“喵星來客”系列,但思前想後,最終作罷了(主要是懶)。它們的思辨力及洞察力是一脈相承的,若你喜歡本文的話,我推薦閱讀“喵星來客”系列(其中兩篇):

Python對象的身份迷思:從全體公民到萬物皆數

Python對象的空間邊界:獨善其身與開放包容

公眾號【Python貓】, 本號連載優質的系列文章,有喵星哲學貓系列、Python進階系列、好書推薦系列、技術寫作、優質英文推薦與翻譯等等,歡迎關註哦。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 早期的電腦通信需要有一個中間件,A要給B傳東西,A必須要把信息傳給中間件,B再把從中間件中拿到信息 由於不同機器之間需要通信就產生了網路 軟體開發的架構 1.C/S架構 伺服器-客戶機,即Client-Server架構,C/S架構通常採取兩層結構.Sever負責數據的管理,Client負責完成與用 ...
  • PHP+Nginx環境搭建 作者:王宇陽( Mirror )^_^ 參考文章: ​ "Nginx+PHP+MySQL安裝參考" ​ "PHP源碼安裝經驗" ​ "PHP源碼環境搭建過程中常見問題" CentOS環境 配置CentOS 7網路: CentOS(最小安裝)預設是不打開網路的 啟動網路 v ...
  • 1、在GitHub上建一個新倉庫 ​ 2、配置Git的SSH KEY 生成SSH添加到GitHub 回到你的git bash中, git config global user.name "yourname" git config global user.email "youremail" 這裡的yo ...
  • 多進程 python中創建進程模塊為: 進程之間數據不是共用的 註意:windowns下進程運行會報錯,linux mac 不會出現此問題。解決方法: 將進程啟動代碼放到main里即可執行,示例代碼: 進程常用方法: :和線程一樣,預設會等子進程執行完畢後,代碼才會繼續往下執行 : True 為 主 ...
  • 1、安裝 Git 和 nodejs "https://hexo.io/zh cn/docs/" ​ 2 安裝Hexo "https://hexo.io/zh cn/" ​ 3、更換伊卡洛斯主題 "https://github.com/ppoffice/hexo theme icarus" ​ 配置新 ...
  • 一、寫在前面 說道程式員,你會想到什麼呢?有人認為程式員象徵著高薪,有人認為程式員都是死肥宅,還有人想到的則是996和 ICU。 別人眼中的程式員:飛快的敲擊鍵盤、酷炫的切換屏幕、各種看不懂的字元代碼。 然而現實中的程式員呢?對於很多程式員來說,沒有百度和 Google 解決不了的問題,也沒有 ct ...
  • 三、在碼雲平臺創建項目 git服務平臺: 主要使用github(最主流) 國內訪問速度慢 托管私有項目收費 國內一般使用碼雲gitee 國內訪問速度快 托管私有項目免費(限制開發人數) 公司中使用gitlab或者svn來搭建 主要使用github(最主流) 國內訪問速度慢 托管私有項目收費 國內訪問 ...
  • maven是一個基於java平臺的自動化構建工具。構建工具的發展由make->ant->maven->gradle其中gradle還在發展中,使用較少,學習難度比較大,所以目前占據主流的還是maven。 maven的作用:①,幫助我們管理jar包:i,增加第三方jar包。先在本地倉庫中下載,如果本地 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...