併發和並行

併發（concurrency）和並行（parallellism）：

1. 解釋一：並行是指兩個或者多個事件在同一時刻發生；而併發是指兩個或多個事件在同一時間間隔發生。
2. 解釋二：並行是在不同實體上的多個事件，併發是在同一實體上的多個事件。
3. 解釋三：併發是在一臺處理器上“同時”處理多個任務，並行是在多台處理器上同時處理多個任務。如 hadoop 分散式集群。

所以併發編程的目標是充分的利用處理器的每一個核，以達到最高的處理性能。

並行(parallel)：指在同一時刻，有多條指令在多個處理器上同時執行。所以無論從微觀還是從巨集觀來看，二者都是一起執行的。

併發(concurrency)：指在同一時刻只能有一條指令執行，但多個進程指令被快速的輪換執行，使得在巨集觀上具有多個進程同時執行的效果，但在微觀上並不是同時執行的，只是把時間分成若幹段，使多個進程快速交替的執行。

並行在多處理器系統中存在，而併發可以在單處理器和多處理器系統中都存在，併發能夠在單處理器系統中存在是因為併發是並行的假象，並行要求程式能夠同時執行多個操作，而併發只是要求程式假裝同時執行多個操作（每個小時間片執行一個操作，多個操作快速切換執行）。

當有多個線程在操作時，如果系統只有一個 CPU，則它根本不可能真正同時進行一個以上的線程，它只能把 CPU 運行時間劃分成若幹個時間段，再將時間段分配給各個線程執行，在一個時間段的線程代碼運行時,其它線程處於掛起狀態.這種方式我們稱之為併發（Concurrent）。

當系統有一個以上 CPU 時，則線程的操作有可能非併發。當一個 CPU 執行一個線程時，另一個 CPU 可以執行另一個線程，兩個線程互不搶占 CPU 資源，可以同時進行，這種方式我們稱之為並行（Parallel）。