1.協程(微線程)協程是一種用戶態的輕量級線程。協程擁有自己的寄存器上下文和棧。協程調度切換時,將寄存器上下文和棧保存到其他地方,在切回來的時候,恢復先前保存的寄存器上下文和棧。因此: 協程能保留上一次調用時的狀態(即所有局部狀態的一個特定組合),每次過程重入時,就相當於進入上一次調用的狀態,換種說 ...
1.協程(微線程)
協程是一種用戶態的輕量級線程。
協程擁有自己的寄存器上下文和棧。協程調度切換時,將寄存器上下文和棧保存到其他地方,在切回來的時候,恢復先前保存的寄存器上下文和棧。因此:
協程能保留上一次調用時的狀態(即所有局部狀態的一個特定組合),每次過程重入時,就相當於進入上一次調用的狀態,換種說法:進入上一次離開時所處邏輯流的位置。
2.greenlet模塊
greenlet是一個用C實現的協程模塊,相比與python自帶的yield,它可以使你在任意函數之間隨意切換,而不需把這個函數先聲明為generator
例子
from greenlet import greenlet def fun1(): print(6) gar2.switch() #轉換到gar2 print(58) def fun2(): print(54) gar1.switch() gar1 = greenlet(fun1) #啟動協程 gar2 = greenlet(fun2) gar1.switch()
3.gevent模塊
gevent 是一個第三方庫,可以輕鬆通過gevent實現併發同步或非同步編程,在gevent中用到的主要模式是Greenlet, 它是以C擴展模塊形式接入Python的輕量級協程。 Greenlet全部運行在主程式操作系統進程的內部,但它們被協作式地調度。
import gevent def fun1(): print('第一次運行fun1') gevent.sleep(2) #切換到fun2的gevent.sleep(1)這一步 print('第二次運行fun1') def fun2(): print('第一次運行fun2') gevent.sleep(1) #sleep時間沒到繼續切換到fun3的gevent.sleep(2) print('第二次運行fun2') def fun3(): print('第一次運行fun3') gevent.sleep(2) print('第二次運行fun3') gevent.joinall( [ gevent.spawn(fun1), gevent.spawn(fun2), gevent.spawn(fun3), ])
結果
第一次運行fun1
第一次運行fun2
第一次運行fun3
第二次運行fun2
第二次運行fun1
第二次運行fun3
4.gevent預設檢測不了urllib的i/o操作
5.要非同步操作爬蟲,必須加上monkey.patch_all(),意思是把當前程式的所有的io操作單獨做上標記
如
from urllib import request import gevent,time from gevent import monkey monkey.patch_all() #把當前程式的所有的io操作單獨做上標記 def f(url): print('GET%s'%url) resp = request.urlopen(url) data = resp.read() print('%d 數據接收來自%s.' % (len(data), url)) start_time = time.time() gevent.joinall([ gevent.spawn(f, 'https://www.python.org/'), gevent.spawn(f, 'https://www.baidu.com/'), gevent.spawn(f, 'https://github.com/'), ]) print('總共時間:',time.time()-start_time)
6.事件驅動模型
目前大部分的UI編程都是事件驅動模型,如很多UI平臺都會提供onClick()事件,這個事件就代表滑鼠按下事件。事件驅動模型大體思路如下:
1). 有一個事件(消息)隊列;
2. 滑鼠按下時,往這個隊列中增加一個點擊事件(消息);
3). 有個迴圈,不斷從隊列取出事件,根據不同的事件,調用不同的函數,如onClick()、onKeyDown()等;
4). 事件(消息)一般都各自保存各自的處理函數指針,這樣,每個消息都有獨立的處理函數;
7.事件驅動編程是一種編程範式,這裡程式的執行流由外部事件來決定。它的特點是包含一個事件迴圈,當外部事件發生時使用回調機制來觸發相應的處理。另外兩種常見的編程範式是(單線程)同步以及多線程編程。
8.緩存 I/O
緩存 I/O 又被稱作標準 I/O,大多數文件系統的預設 I/O 操作都是緩存 I/O。在 Linux 的緩存 I/O 機制中,操作系統會將 I/O 的數據緩存在文件系統的頁緩存( page cache )中,也就是說,數據會先被拷貝到操作系統內核的緩衝區中,然後才會從操作系統內核的緩衝區拷貝到應用程式的地址空間。
緩存 I/O 的缺點:
數據在傳輸過程中需要在應用程式地址空間和內核進行多次數據拷貝操作,這些數據拷貝操作所帶來的 CPU 以及記憶體開銷是非常大的。
註釋:此緩存 I/O 在linux環境下的I/O
詳解:http://www.cnblogs.com/alex3714/articles/5876749.html
9.IO模式
阻塞 I/O(blocking IO)
非阻塞 I/O(nonblocking IO)
I/O 多路復用( IO multiplexing)
信號驅動 I/O( signal driven IO)
非同步 I/O(asynchronous IO)