從零開始的Python學習Episode 23——進程

来源:https://www.cnblogs.com/smilepup-hhr/archive/2019/03/23/10584140.html
-Advertisement-
Play Games

恢復內容開始 進程 由於GIL的存在,python中的多線程其實並不是真正的多線程,如果想要充分地使用多核CPU的資源,在python中大部分情況需要使用多進程。Python提供了非常好用的多進程包multiprocessing,只需要定義一個函數,Python會完成其他所有事情。藉助這個包,可以輕 ...


---恢復內容開始---

進程

由於GIL的存在,python中的多線程其實並不是真正的多線程,如果想要充分地使用多核CPU的資源,在python中大部分情況需要使用多進程。Python提供了非常好用的多進程包multiprocessing,只需要定義一個函數,Python會完成其他所有事情。藉助這個包,可以輕鬆完成從單進程到併發執行的轉換。multiprocessing支持子進程、通信和共用數據、執行不同形式的同步,提供了Process、Queue、Pipe、Lock等組件。

  multiprocessing包是Python中的多進程管理包。與threading.Thread類似,它可以利用multiprocessing.Process對象來創建一個進程。該進程可以運行在Python程式內部編寫的函數。該Process對象與Thread對象的用法相同,也有start(), run(), join()的方法。此外multiprocessing包中也有Lock/Event/Semaphore/Condition類 (這些對象可以像多線程那樣,通過參數傳遞給各個進程),用以同步進程,其用法與threading包中的同名類一致。所以,multiprocessing的很大一部份與threading使用同一套API,只不過換到了多進程的情境。

 

創建進程的兩種方法

調用內置的方法

from multiprocessing import Process
import time

def fun(name):
    print(name+' is running')
    time.sleep(2)
    print(name+' end')

if __name__ == '__main__':
    pro = Process(target=fun,args=('no1',))
    pro.start()

自定義類

from multiprocessing import Process
import os

class Myprocess(Process):
    def __init__(self,name):
        Process.__init__(self)
        self.name = name
    def run(self):
        print(os.getpid())
        print(self.name+' is running')
if __name__=='__main__':
    p1 = Myprocess('1')
    p2=Myprocess('2')
    p3=Myprocess('3')

    p1.start()
    p2.start()
    p3.start()

註意:在運行的時候要在main裡面運行,因為子進程是通過導入模塊的方式拿到父進程的代碼,如果沒有main會一直開啟子進程,而子進程的申請是需要開闢記憶體以及申請pid等的。

 

 

進程間通訊

隊列queue()

使用方法跟threading里的queue類似,但是不同進程間記憶體是不共用的,所以要用下麵的方法

from multiprocessing import Process, Queue

def f(q,n):
    q.put('hello')

def f1(q):
    print(q.get())
if __name__ == '__main__':
    q = Queue()
    for i in range(2):
        p = Process(target=f, args=(q,i))
        p.start()
    tp1 = Process(target=f1,args=(q,))
    tp2 = Process(target=f1, args=(q,))
    tp3 = Process(target=f1, args=(q,))
    tp1.start()
    tp2.start()

要傳入一個公共的queue來保證是同一個隊列。

 

管道Pipes

Pipe()返回兩個值(conn1,conn2),作為通訊的兩個端。通過設置duplex參數來設置兩個埠的功能,如果duplex參數為True(預設值),那麼這個管道是全雙工模式,也就是說conn1和conn2均可收發。duplex為False,conn1只負責接受消息,conn2只負責發送消息。

from multiprocessing import Process, Pipe


def s(conn):
    conn.send('hello, how do you do')
    conn.close()

def r(conn):
    print(conn.recv())


if __name__ == '__main__':
    conn1, conn2 = Pipe()
    p1 = Process(target=s, args=(conn1,))
    p2 = Process(target=r, args=(conn2,))
    p1.start()
    p2.start()

 

Managers實現進程之間的數據共用

manager支持 listdictNamespaceLockRLockSemaphoreBoundedSemaphoreConditionEventBarrierQueueValue,Array等類型的共用

from multiprocessing import Process, Manager

def f(d, l,n):
    d[n] = '1'
    d['2'] = 2
    d[0.25] = None
    l.append(n)
    print(l)

if __name__ == '__main__':
    with Manager() as manager:
        d = manager.dict()
        l = manager.list(range(5))
        p_list = []
        for i in range(10):
            p = Process(target=f, args=(d, l,i))
            p.start()
            p_list.append(p)
        for res in p_list:
            res.join()

        print(d)
        print(l)

待續


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 背景:人生不可以後悔,但它卻可以轉彎。不知不覺到新的公司上班已經一個多星期了,然而之前面試了好幾家公司都沒有好好總結下;新公司給我的總體印象還不錯,是一家非外包的創業型企業,就是公司是做大數據項目的,之前我是搞Java開發的,然後現在自己hadoop不瞭解、Linux不熟悉、測試用例也沒寫過等,搞得 ...
  • "題目鏈接" 題解: 這個題可以用廣搜來解決,從農夫到牛的走法每次都有三種選擇,定義一個隊列,把農夫的節點加進隊列,然後以這三種走法找牛,隊列先進先出,按順序直到找到牛的位置。 代碼: c++ include include include include using namespace std; ...
  • 很簡單的一款PHP+Ajax+plupload無刷新上傳頭像代碼,相容性很好,可以直接拿來用。你可以自定義各種類型的文件。本實例中只能上傳"jpg", "png", "gif", "jpeg"等圖片文件 引入jQuery庫和plupload上傳組件 plupload單圖片上傳配置 本實例下載:htt ...
  • Python主要是依靠眾多的第三方庫來增強它的數據處理能力的。常用的是Numpy庫,Scipy庫、Matplotlib庫、Pandas庫、Scikit-Learn庫等。 常規版本的python需要在安裝完成後另外下載相應的第三方庫來安裝庫文件。而若安裝的是Anaconda版本的Python,則不需要 ...
  • 一些設置setting.py 運行項目內應用測試模塊tests.py,報錯 處理如下: ...
  • 作為一款現象級游戲,王者榮耀,想必大家都玩過或聽過,游戲里中各式各樣的英雄,每款皮膚都非常精美,用做電腦壁紙再合適不過了。本篇就來教大家如何使用Python來爬取這些精美的英雄皮膚。 關註公眾號「**Python專欄**」,後臺回覆「**zsxq04**」,獲取本文全套源碼! ...
  • 題目來源: 藍橋杯練習系統(寫博客日期為2019.3.23,所以可能讀者看到的時候,更新了新的題) 這裡只提供每道題的我的解題代碼,僅供參考。這裡不會寫解題思路和詳解,如果有需要的話,請留言給我,我會在留言區回覆。vip題目來源dotcpp(順序跟練習系統一樣,只不過我沒有vip,所以在dotcpp ...
  • 一、django中通過LazySetting對象來獲取項目的配置,LazySetting對象有什麼特性?為什麼使用這個對象? LazySetting顧名思義,就是延遲獲取配置內容。比如,我們定義了一個對象A,並對其添加了一些屬性,對A初始化時,我們將A的屬性的值設置為空,當我們要訪問A其中的一個屬性 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...