Event事件、進程池與線程池、協程

来源:https://www.cnblogs.com/setcreed/archive/2019/10/24/11735441.html
-Advertisement-
Play Games

[TOC] Event事件 用來控制線程的執行 出現 ,就會把這個線程設置為False,就不能執行這個任務; 只要有一個線程出現 ,就會告訴Event對象,把有 的用戶全部改為True,剩餘的任務就會立馬去執行。由一些線程去控制另一些線程,中間通過Event。 進程池與線程池 1. 進程池與線程池是 ...


目錄

Event事件

用來控制線程的執行

出現e.wait(),就會把這個線程設置為False,就不能執行這個任務;

只要有一個線程出現e.set(),就會告訴Event對象,把有e.wait的用戶全部改為True,剩餘的任務就會立馬去執行。由一些線程去控制另一些線程,中間通過Event。

from threading import Event
from threading import Thread
import time
# 調用Event實例化出對象
e = Event()
#
# # 若該方法出現在任務中,則為False,阻塞
# e.wait()  # False
# # 若該方法出現在任務中,則將其他線程的False改為True,進入就緒態和運行態
# e.set()  # True


def light():
    print('紅燈亮...')
    time.sleep(5)
    # 應該發出信號,告訴其他線程準備執行
    e.set()   # 將car中的False變為True
    print('綠燈亮...')


def car(name):
    print('正在等紅燈...')
    # 讓所有汽車任務進入阻塞態
    e.wait()  # False
    print(f'{name}正在加速飄逸...')


# 讓一個light線程式控制制多個car線程
t = Thread(target=light)
t.start()

for i in range(10):
    t = Thread(target=car, args=(f'汽車{i}號', ))
    t.start()

進程池與線程池

  1. 進程池與線程池是用來控制當前程式允許創建(進程/線程)的數量

  2. 作用:保證在硬體允許的範圍內創建(進程/線程)的數量

線程池使用一:

from concurrent.futures import ThreadPoolExecutor
import time

pool = ThreadPoolExecutor(5) # 5代表只能開啟5個進程, 不加預設使用cpu的進程數

# ThreadPoolExecutor(5) # 5代表只能開啟5個線程

# pool.submit() #非同步提交任務, 括弧里傳函數地址


def task():
    print('線程任務開始了...')
    time.sleep(1)
    print('線程任務結束了...')


for line in range(5):
    pool.submit(task)

使用二:

from concurrent.futures import ThreadPoolExecutor
import time

pool = ThreadPoolExecutor(5) # 5代表只能開啟5個進程, 不加預設使用cpu的進程數

# ThreadPoolExecutor(5) # 5代表只能開啟5個線程

# pool.submit() #非同步提交任務, 括弧里傳函數地址


def task():
    print('線程任務開始了...')
    time.sleep(1)
    print('線程任務結束了...')
    return 123


# 回調函數
def call_back(res):
    print(type(res))
    res2 = res.result()  # 註意:賦值操作不要與接收的res同名
    print(res2)


for line in range(5):
    pool.submit(task).add_done_callback(call_back)

pool.shutdown() 會讓所有線程池的任務結束後,才往下執行代碼

多線程爬取梨視頻

利用requests模塊,封裝底層socket套接字

  1. 主頁中獲取所有視頻id號,拼接視頻詳情頁url
  2. 在視頻詳情頁中獲取真實視頻url srcUrl=
  3. 往真實視頻url地址發送請求獲取 視頻 二進位數據
  4. 最後把視頻二進位數據保存到本地

協程

  • 進程: 資源單位
  • 線程: 執行單位
  • 協程: 在單線程下實現併發

註意: 協程不是操作系統資源,目的是讓單線程實現併發

協程目的

  • 操作系統:使用多道技術,切換 + 保存狀態,一個是遇到IO, 另一個是CPU執行時間過長
  • 協程:通過手動模擬操作系統 “多道計數”, 實現 切換 + 保存狀態
    • 手動實現,遇到IO切換,欺騙操作系統誤以為沒有IO操作
    • 單線程時,遇到IO,就切換 + 保存狀態
    • 單線程時,對於計算密集型,來回切換 + 保存狀態反而效率更低

優點:在IO密集型的情況下,會提高效率

缺點:若在計算密集型的情況下,來回切換,反而效率更低

import time

def func1():
    for i in range(10000000):
        i+1

def func2():
    for i in range(10000000):
        i+1


start = time.time()
func1()
func2()
stop = time.time()
print(stop - start)   # 1.0312113761901855


# 基於yield實現併發 在計算密集型的情況下效率更低

def func1():
    while True:
        10000000+1
        yield

def func2():
    g = func1()
    for i in range(10000000):
        i+1
        next(g)   # 每次執行next相當於切換到func1下麵


start = time.time()
func2()
stop = time.time()
print(stop - start)  # 1.3294126987457275

gevent

gevent是一個第三方模塊,可以幫你監聽IO操作,並切換

使用gevent的目的:在單線程下實現,遇到IO就會 保存狀態 + 切換

import time
from gevent import monkey

monkey.patch_all()  # 可以監聽該程式下所有的IO操作
from gevent import spawn, joinall # 用於做切換 + 保存狀態


def func1():
    print('1')
    time.sleep(1)  # IO操作


def func2():
    print('2')
    time.sleep(3)


def func3():
    print('3')
    time.sleep(5)

start = time.time()

s1 = spawn(func1)
s2 = spawn(func2)
s3 = spawn(func3)

s1.join()  # 發送信號,相當於等待自己(在單線程的情況下)
s2.join()
s3.join()

# joinall((s1, s2, s3))  #  一個個執行很麻煩,可以用joinall把這些全部裝進去

end = time.time()
print(end - start)  # 5.006161451339722

TCP服務端socket套接字實現協程

服務端:

from gevent import monkey
from gevent import spawn
import socket

monkey.patch_all()
server = socket.socket()
server.bind(('127.0.0.1', 9999))
server.listen(5)

def task(conn):
    while True:
        try:
            data = conn.recv(1024)
            if len(data) == 0:
                break
            print(data.decode('utf-8'))
            send_data = data.upper()
            conn.send(send_data)

        except Exception:
            break

    conn.close()


def server2():
    while True:
        conn, addr = server.accept()
        print(addr)
        spawn(task, conn)


if __name__ == '__main__':
    s = spawn(server2)
    s.join()

客戶端:

import socket
from threading import Thread, current_thread

def client():
    client = socket.socket()
    client.connect(('127.0.0.1', 9999))

    number = 0
    while True:
        send_data = f'{current_thread().name} {number}'
        client.send(send_data.encode('utf-8'))

        data = client.recv(1024)
        print(data.decode('utf-8'))
        number += 1


for i in range(400):
    t = Thread(target=client)
    t.start()

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 1 #是將傳入的值當做字元串的形式,eg:select id,name,age from student where id =#{id},當前端把id值1,傳入到後臺的時候,就相當於 select id,name,age from student where id ='1'. 2 $是將傳入的數據直 ...
  • 平時我們在做項目時經常需要對一些重要功能操作記錄日誌,方便以後跟蹤是誰在操作此功能;我們在操作某些功能時也有可能會發生異常,但是每次發生異常要定位原因我們都要到伺服器去查詢日誌才能找到,而且也不能對發生的異常進行統計,從而改進我們的項目,要是能做個功能專門來記錄操作日誌和異常日誌那就好了, 當然我們 ...
  • springsecurity舊版本自定義設置用戶密碼角色 protected void configure(AuthenticationManagerBuilder auth) throws Exception { auth.inMemoryAuthentication().withUser("ad ...
  • redis相信大家都很熟悉了,和memcached一樣是一個高性能的key-value資料庫,至於什麼是緩存伺服器,度娘都有很明白的介紹了,我在這裡就不一一介紹了。 那我們一般什麼情況下才會使用緩存伺服器呢?可不是什麼情況都需要的哦,一般來說是在需要頻繁對一個欄位讀取的時候才會需要將這個欄位放入到緩 ...
  • 不管你是做數據分析,還是網路爬蟲,Web 開發、亦或是機器學習,你都離不開要和資料庫打交道,而 MySQL 又是最流行的一種資料庫,這篇文章介紹 Python 操作 MySQL 的5種方式,你可以在實際開發過程中根據實際情況合理選擇。 1、MySQLdb MySQLdb又叫MySQL-python ...
  • 一、模板類型錯誤: 錯誤原因:在models中漏掉了return: 【這裡】加上return即可。 二、url相關錯誤 靜態文件無法訪問,如樣式出不來 css樣式總出不來,折騰了一個多小時,原來,urlpatterns 寫成這樣: 我把 [登錄註冊] url後面也寫成 = 而並非+= ,這就造成了u ...
  • spring註解之@Import 【1】@Import ​ 參數value接收一個Class數組,將你傳入的類以全類名作為id加入IOC容器中 ​ 比較簡單,此處不做詳細解釋 【2】ImportSelector ​ ImportSelector強調的是復用性,使用它需要創建一個類實現ImportSe ...
  • # Eureka錯誤解決方法 ## security.basic.enabled 配置過時或不可用預設情況下:用戶名:user密碼:啟動應用在控制台會輸出,如下圖: 也可以通過如下屬性配置:spring.security.user.namespring.security.user.password如 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...