記憶體屏障保證緩存一致性

来源:http://www.cnblogs.com/wewill/archive/2017/12/24/8098189.html
-Advertisement-
Play Games

緩存一致性協議給緩存行(通常為64位元組)定義了個狀態:獨占(exclusive)、共用(share)、修改(modified)、失效(invalid),用來描述該緩存行是否被多處理器共用、是否修改。所以緩存一致性協議也稱MESI。 ...


 在前面記憶體系統重排序提到,“寫緩存沒有及時刷新到記憶體,導致不同處理器緩存的值不一樣”,出現這種情況是糟糕的,所幸處理器遵循緩存一致性協議能夠保證足夠的可見性又不過多的損失性能。

 緩存一致性協議給緩存行(通常為64位元組)定義了個狀態:獨占(exclusive)、共用(share)、修改(modified)、失效(invalid),用來描述該緩存行是否被多處理器共用、是否修改。所以緩存一致性協議也稱MESI協議

  • 獨占(exclusive):僅當前處理器擁有該緩存行,並且沒有修改過,是最新的值。
  • 共用(share):有多個處理器擁有該緩存行,每個處理器都沒有修改過緩存,是最新的值。
  • 修改(modified):緩存行被修改過了,需要寫回主存,並通知其他擁有者 “該緩存已失效”。
  • 失效(invalid):緩存行被其他處理器修改過,該值不是最新的值,需要讀取主存上最新的值。

優化

 處理修改狀態是比較耗時的操作,既要發送失效消息給其他擁有者並寫回主存,還要等待其他擁有者處理失效信息,直到收到失效消息的響應。如果在這一段時間,處理器都處於空等,那是奢侈的。所以引入緩存失效緩存來讓處理器不再“等”。

存儲緩存

 存儲緩存(Store Buffers),也就是常說的寫緩存,當處理器修改緩存時,把新值放到存儲緩存中,處理器就可以去乾別的事了,把剩下的事交給存儲緩存。

失效隊列

 處理失效的緩存也不是簡單的,需要讀取主存。並且存儲緩存也不是無限大的,那麼當存儲緩存滿的時候,處理器還是要等待失效響應的。為瞭解決上面兩個問題,引進了失效隊列(invalidate queue0)。

 處理失效的工作如下:

  1. 收到失效消息時,放到失效隊列中去。
  2. 為了不讓處理器久等失效響應,收到失效消息需要馬上回覆失效響應。
  3. 為了不頻繁阻塞處理器,不會馬上讀主存以及設置緩存為invlid,合適的時候再一塊處理失效隊列。

引發記憶體重排序

 下麵是處理器A、B,依次寫、讀記憶體a的時序圖。A、B都緩存了a。

 可以看到即使遵守緩存一致性協議,也會有一段時間緩存不一致(①-⑥)。

 要是讀取a的操作在這段時間內,那麼處理器B看到的a將是0。處理器執行順序為寫a>讀a,而在記憶體上的順序為讀a>寫a,造成了重排序重排序可能會導致不可見性,要是此時線程A、B分別在處理器A、B上執行,那麼線程A執行了寫操作後,線程B看不到線程A執行的結果,共用記憶體a不可見,改變了程式運行結果。

避免記憶體重排序

 引發重排序是糟糕的,可能造成共用記憶體不可見,改變程式結果。那麼該怎麼辦,不進行MESI優化嗎?既不能追求性能,造成重排序,也不能追求可見性(非共用數據可見是不需要的),降低性能。

 處理器還是使用提供了個武器——記憶體屏障指令(Memory Barrier):

  1. 寫記憶體屏障(Store Memory Barrier):處理器將當前存儲緩存的值寫回主存,以阻塞的方式。
  2. 讀記憶體屏障(Load Memory Barrier):處理器處理失效隊列,以阻塞的方式。

 可以看到記憶體屏障可以阻止記憶體系統重排序,保證可見性。但其開銷也很大,處理器需要阻塞等待,一般應用在鎖的獲取和釋放中。

上面那段處理器A、B,依次寫、讀記憶體a,加了記憶體屏障後,就不會被重排序了。

boolean finish = false;
int a = 0;

//處理器A:
a = 1;
storeMemoryBarrer(); //保證a一定在主存中,且處理器B中a為invlid
finish = true;

//處理器B:
while(!finish);
loadMemoryBarrier(); //保證緩存到a最新的值,執行後a為share
assert a == 1;

JMM中抽象記憶體屏障

 為了更好的理解如何實現同步的可見性,JMM抽象出了記憶體屏障Memory Barrier。
記憶體屏障


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 上一篇我們講到了AI架構之一的行為樹,本篇文章和下一篇文章我們將對行為樹進行優化,在本篇文章中我們講到的是記憶體優化 問題 上一篇中我們設計的行為樹由於直接採用new進行動態記憶體分配,沒有自己進行管理。因此行為樹各節點的存儲位置會散佈在記憶體空間的各處,行為樹在不同節點中切換時會導致Cache頻繁失效。 ...
  • Centos下通過yum安裝步驟如下: 聲明:相對比那些用源碼安裝,少了配置和新建log和data目錄,這種簡單粗暴, mongodb 常用命令: mongo 導入 json 或者csv 做法 mongoimport --db table-name --collection table-name - ...
  • eclipse中使用mybatis-generator逆向代碼生成工具出現waiting for "building workspace";com.mysql.jdbc.exceptions.jdbc4.communicationsexception: communications link fa... ...
  • Java常見的同步和非同步的區別、特點、聯繫 同步:發送一個請求,等待返回,然後再發送下一個請求 非同步:發送一個請求,不等待返回,隨時可以再發送下一個請求 同步可以避免出現死鎖,讀臟數據的發生,一般共用某一資源的時候用,如果每個人都有修改許可權,同時修改一個文件,有可能使一個人讀取另一個人已經刪除的內容 ...
  • 閉包是指在創建時封裝周圍狀態的函數。即使閉包所在的環境不存在了,閉包中封裝的狀態依然存在。匿名函數就是沒有名稱的函數。匿名函數可以賦值給變數,還能像其他任何PHP對象那樣傳遞。不過匿名函數仍是函數,因此可以調用,還可以傳入參數。匿名函數特別適合作為函數或方法的回調。 ...
  • [1]修改hosts文件 [2]啟動apache虛擬主機功能 [3]修改vhosts配置文件 ...
  • 可選的<generator>子元素是 一個Java類的名稱,用來生成該持久化類實例的唯一標識符。如果這個生成器實例需要某些配置值或者初始化參數,可以使用<param>元素來傳遞這些參數。 所有的生成器都實現了org.hibernate.id.IdentifierGenerator介面。這是一個非常簡 ...
  • 一、簡介 Swagger的目標是為REST API定義一個與語言無關的標準介面,允許用戶發現和理解電腦服務的功能,而無需訪問源代碼。當通過Swagger正確定義時,用戶可以用最少量的實現邏輯理解遠程服務並與之交互。類似於低級編程所做的介面。 二、實現步驟 1、添加 Maven 依賴 2、Swagg ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...