併發思想提煉(2)(Lock free,輪詢及線程池)

来源:http://www.cnblogs.com/ganmuren/archive/2016/03/24/5314048.html
-Advertisement-
Play Games

8. 告別Lock 不是一直說Lock比較麻煩危險嗎,那就不要好了。其實有一個Lock free的方法。 首先引入一個概念——原子變數。在這種變數上的操作是原子操作(atomic operation)。原子操作就是說這個操作要麼都完成,要麼都不完成,部分完成是不行的。就像物理化學中的原子一樣,借用不 ...


8.    告別Lock

不是一直說Lock比較麻煩危險嗎,那就不要好了。其實有一個Lock free的方法。

首先引入一個概念——原子變數。在這種變數上的操作是原子操作(atomic operation)。原子操作就是說這個操作要麼都完成,要麼都不完成,部分完成是不行的。就像物理化學中的原子一樣,借用不可再分的意思。按照這樣理解,對這個原子變數的訪問操作就必定是串列的。一個原子操作完成後才能進行另一個原子操作。這樣子的變數類型多半是基本變數,什麼int啊double啊boolean啊之類。

就可以簡單這樣想,只要調用原子操作,就能保證對象的串列訪問。

常用語言原子操作內部實現基本用到了鎖。原子操作常用的有++,--,compare & swap。特別地,這個CAS(compare and swap)配合迴圈操作就能實現lock free方法。看下麵的stack.push(…)偽代碼。

1 Atomic<Node*> head;
2 Node* new_node= new Node(….);
3 New_node->next=head; (1)
4 While(!head.compare_and_swap(new_node->next, new_node)); (2)

設有一個Stack,需要push一個值進去,head指針申明為原子量。(1)把新值的next設為head。(2)更新head,如果head==new_node->next那麼,head=new_node,返回true,跳出迴圈;否則new_node->next更新為head,並返回false,繼續迴圈。猜想?什麼情況會new_node->next不等於head?如果在(1)執行完畢後head被其它線程修改。此時的old_head(new_node->next)就需要更新為當前最新的head,才能進行接下來的操作。這種方式實現的stack push就是用了lock free思想。是不是比加lock代碼看起來簡潔多了? 代碼中一個lock操作都沒有看到哦。

Lock free需要一個自旋鎖,耗CPU時間,而lock方法是直接block住,釋放占用的CPU時間。發現沒?這個“自旋鎖”思想在前文的try lock中也出現了?甚至可以這樣猜想,如果把所有的鎖都換成自旋鎖,是不是就能防止死鎖了?前面的stack.push操作也可以添加CAS試做次數,操作一定次數或時間限制,表示此次push失敗,也就跳出了此自旋鎖。另外,沒有所謂的lock free就是比lock好,根據不同的業務情況,自行選擇吧。

問:如果我的關鍵實體是一個對象,那麼可以把對象最為一個原子量嗎?這個,恐怕不能,不過可以分解對象中的一些基本類型欄位作為原子量。到底使用哪些基本類型,需要對業務需求有深刻的理解。

9.    輪詢操作

觀察者設計模式這裡不多說了,主要思想是把主動輪詢,轉變為被動通知。不過在某些併發程式集中“輪詢”比“通知”思想還要普遍,或者說“通過輪詢來通知”。甚至這樣說,我感覺在某些場合輪詢比通知更有用,特別是對順序要求敏感的地方。這類程式基於規避亂序風險從而選擇此架構方式,而且輪詢的架構方式能人為製造“程式柵欄”。Thread barrier這個操作聽說過吧,這是一種同步程式的方式。這種方式在某些分散式程式中用到(特別是消息隊列模塊),而且非常利於Debug。

一個完整的系統輪詢和通知都很重要,沒有誰好誰不好一說。寫到這裡想想,在上文輪詢中,提到“順序”兩個字,你懂的,順序執行容易引發性能瓶頸,及其連鎖反應。而且輪詢資料庫什麼的,數據多起來能直接把系統搞得不響應好嗎,考慮下觸發器嘛。所以架構就是一種舍一種得的心態,要根據具體業務需求來定奪。

“通知”的理解以後有機會再說。對了,輪詢時記得yield, 別到時候輪詢線程一跑起來把CPU時間片占光了,其它併發操作受到影響。

10.    線程操作

線程是執行一個函數,很有函數式編程理念的感覺。但是並不是線程開得越多程式處理就越快,這和實際處理器數和線程上下文切換頻率就很大關係,這些情況baidu google一下就知道,不細說,基本上最好的線程數量就大概是空閑處理器的數量。

這裡說的一個思想是線程池Thread pool。就是說線程創建後不會因為執行完畢而被銷毀,它會放入一個池子中等待新任務喚醒它,然後開始執行。線程創建是要耗CPU資源的,重覆利用當然是好的。這個功能在高級語言中有對應的實現,比如說C#的task,它的預設調度類就實現了此思想。所以說高級語言使用起來比較順暢,你不用從頭開始造輪子。C++的boost庫中也有類似方法。編程的時候用上唄,何樂而不為?

如上圖,2個線程做5個任務,而不是用5個線程。而且在task3之後,線程1就處於空轉或阻塞的等待狀態而不是銷毀自身,直到task4出現又開始執行。但是,如果5個task並行執行,且確實有如此多空閑處理器,開5條線程,處理效率更高。線程池的方式是否適用此場景還需好好考慮下。

我們看得稍微抽象點,前文所說的線程池技術,就是任務調度操作,這個以後有機會在說吧。。。

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 數據在分片時,典型的是分庫分表,就有一個全局ID生成的問題。單純的生成全局ID並不是什麼難題,但是生成的ID通常要滿足分片的一些要求: 1 不能有單點故障。 2 以時間為序,或者ID里包含時間。這樣一是可以少一個索引,二是冷熱數據容易分離。 3 可以控制ShardingId。比如某一個用戶的文章要放 ...
  • 設計模式 目錄 UML類圖 簡單工廠模式(Simple Factory) 創建型: 工廠方法模式(Factory Method) 抽象工廠模式(Abstract Factory) 建造者模式(Builder) 原型模式(Prototype) 單例模式(Singleton) 結構型: 適配器模式(Ad ...
  • 抽象工廠模式(Abstract Factory) 類圖 描述 抽象工廠: 多個抽象產品類,每個抽象產品類可以派生出多個具體產品類; 一個抽象工廠類,可以派生出多個具體工廠類; 每個具體工廠可以創建多個具體產品,即每個工廠可以生產一個產品集合。 應用場景 就拿生產轎車來說,轎車是由發動機、車輪、車體結 ...
  • 工廠方法模式(Factory Method) 類圖 描述 工廠方法: 一個抽象產品類,可以派生多個具體產品類; 一個抽象工廠類,可以派生多個具體工廠類; 每個具體工廠只能創建一個具體產品。 應用場景 汽車介面 汽車類 汽車工廠介面 汽車工廠類 調用 ...
  • 簡單工廠模式(Simple Factory) 類圖 描述 簡單工廠: 一個抽象產品類,可以派生多個具體產品類; 一個具體工廠類; 工廠只能創建一個具體產品。 應用場景 汽車介面 汽車類 汽車工廠類 調用,從配置文件中讀取操作符 ...
  • 無論做什麼事情呢,都要善始善終呢。前邊連續發表了5篇關於重構的博客,其中分門別類的介紹了一些重構手法。今天的這篇博客就使用一個完整的示例來總結一下之前的重構規則,也算給之前的關於重構的博客畫一個句號。今天的示例借鑒於《重構,改善既有代碼的設計》這本書中的第一章的示例,在其基礎上做了一些修改。今天博客 ...
  • 對第三方介面的調用我們需要對GET和POST進行監控,看一些請求的執行是否成功,如A調用B,B調用C,C調用D,這一連串的東西需要我們使用cat進行記錄,進行記錄之後,我們可以很容易的發現請求響應的時間及是否出錯,下麵是我對這兩種請求的封裝。 在程式中使用非常方便,如下代碼,一看便知 而它產生的消息 ...
  • 本系統旨在提供業務監控實時數據和歷史數據以及報表、閾值報警、同比增長分析等一體化的歷史業務數據解決方案。 技術選型 sdk部門有C#版和java版,api和website採用golang語音開發,資料庫採用mysql,數據傳輸採用socket+http 架構設計 本系統主要分3個部分:即sdk(@2 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...