聊聊緩存

来源:https://www.cnblogs.com/wing011203/archive/2023/03/17/17225299.html
-Advertisement-
Play Games

這篇文章主要聊一下緩存,如何使用緩存來加速你的系統,減少磁碟 IO。按照讀寫性質,緩存可以分為讀寫緩存和只讀緩存,兩種緩存有各自的適用場景。 ...


在設計高併發、高性能的系統架構時,緩存是繞不開的一個話題,之所以用緩存,是因為不同的存儲介質的訪問速度存在巨大差異,例如SSD(固態硬碟)每秒鐘可以讀寫幾千次,而記憶體的隨機讀寫速度是SSD的10萬倍。使用記憶體作為緩存來加速應用程式的訪問速度,是幾乎所有高性能系統都會採用的方法。

緩存的思想很簡單:把低速存儲的數據,複製一份放到高速存儲中,用來加速數據訪問。

緩存的分類

緩存主要分為兩大類:

  • 讀寫緩存
  • 只讀緩存

這兩類緩存的區別在於更新數據的時候是否經過緩存。

讀寫緩存

Kafka使用的PageCache就是典型的讀寫緩存。操作系統會利用系統空閑的物理記憶體來給文件讀寫做緩存,應用程式在寫文件的時候,操作系統會先把數據寫入到PageCache中,數據在成功寫到PageCache之後,對於用戶代碼來說,寫入就結束嘞。操作系統再通過非同步的方式將數據更新到磁碟的文件中。應用程式在讀文件的時候,操作系統也是先嘗試從PageCache中尋找數據,如果找到就直接返回數據,找不到就會觸發一個缺頁中斷,然後操作系統把數據從文件讀取到PageCache中,再返回給應用程式。

我麽可以看到寫數據時,並不是同時將數據寫到PageCache和磁碟上,這中間會有一個延遲。操作系統可以保證,即使是應用程式意外退出了,操作系統也會把這部分數據同步到磁碟上,但是如果伺服器突然掉電了,這部分數據就會丟失。

讀寫緩存這種設計,天然就不是可靠的,這是一種犧牲數據一致性換取性能的設計。

寫緩存的實現是非常複雜的,應用恆旭不停地更新PageCache中的數據,操作系統需要記錄哪些數據有變化,同時還要在另外一個線程中,把緩存中變化的數據更新到磁碟中。在提供併發讀寫的同時來非同步更新數據,這個過程中要保證數據的一致性,並且有非常好的性能,很不容易。

Kafka為什麼可以使用PageCache提升性能?

Kafka可以使用PageCache並取得性能提升,有三個原因:

  1. 消息隊列中數據的讀寫比例基本是1:1,我們用消息隊列發送的大部分數據都是一收一發的。
  2. Kafka不是靠磁碟來保證數據的可靠性,它更依賴於不同節點上的多副本來解決數據可靠性問題。
  3. PageCache的讀寫緩存是操作系統實現的,Kafka只需要按照正確的方法來使用就可以了,不會涉及到實現複雜度的問題。

對於不同的使用場景,我們選擇緩存的方式也有區別,如果讀次數是寫次數的幾倍到幾十倍,那麼可以選擇只讀緩存,如果數據的讀寫次數基本一致,那麼可以選擇讀寫緩存。

只讀緩存

對於只讀緩存來說,我們需要考慮一個問題:緩存的數據來源於磁碟,那麼應該怎麼更新緩存中的數據呢?

我們可以有三種方法來更新只讀緩存的數據:

  1. 數據更新時,同時更新磁碟和緩存,這種方法可能會帶來數據不一致的問題,例如我們是選擇同步還是非同步來更新緩存?如果同步更新,磁碟更新成功了,緩存更新失敗嘞,需要反覆重試來保證更新成功嗎?如果多次重試都失敗,那麼這次更新算成功還是失敗呢?如果是非同步更新緩存,怎麼保證更新的時序?
  2. 定時將磁碟上的數據同步到緩存中,同步時可以採用全量更新,也可以選擇增量更新。這種方法的缺點是緩存更新不會很及時,優點是實現起來非常簡單。
  3. 我們不去更新緩存中的數據,而是給緩存中的每條數據設置一個比較短的過期時間,數據過期以後即使它還在緩存中,我們也會認為它不再有效,需要從磁碟中再次載入,這樣就實現了數據更新。

緩存置換策略

當應用程式要訪問某些數據時,如果這些數據在緩存中,那麼直接訪問緩存中的數據就可以了,這種情況我們稱為一次緩存命中;如果數據不在緩存中,那隻能去磁碟訪問數據,我們稱為緩存穿透

一般來說我們都會在數據首次被訪問時,把這條數據放到緩存中,隨著訪問的數據越來越多,緩存空間會被占完,這時就需要把緩存中的一些數據刪掉,以便存放新的數據,這個過程稱為緩存置換

我們有兩種緩存置換思路:

  1. 根據業務邏輯,定製化緩存置換策略。例如,當我們知道某些數據已經被刪了,永遠不會再訪問到,那麼優先置換這些數據是沒有問題的。
  2. 使用通用的置換演算法,例如LRU演算法, 也稱為最近最少使用演算法,它的思想是最近剛剛被訪問到的數據,它在將來被訪問的可能性也很大,而很久都沒有被訪問過的數據,未來再被訪問的幾率也不大。
    作者:李潘     出處:http://wing011203.cnblogs.com/     本文版權歸作者和博客園共有,歡迎轉載,但未經作者同意必須保留此段聲明,且在文章頁面明顯位置給出原文連接,否則保留追究法律責任的權利。
您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • Notion是一個功能強大的筆記應用程式,有許多優點,包括: 用戶友好的界面 跨平臺支持 可以結構化組織筆記 多人協作 可以添加多種類型的媒體文件 可以添加評論和任務 這些優點使Notion成為一個廣泛使用的筆記應用程式,適用於個人和團隊使用。 但是,對於重度Notion用戶,想直接發佈文章到公眾號 ...
  • Vue框架快速上手 前端環境準備 編碼工具:VSCode 依賴管理:NPM 項目構建:VueCli Vue框架介紹 Vue是一套用於構建用戶界面的漸進式框架。 Vue.js提供了MVVM數據綁定和一個可組合的組件系統,具有簡單、靈活的API。 其目標是通過儘可能簡單的API實現響應式的數據綁定和可組 ...
  • 這裡給大家分享我在網上總結出來的一些知識,希望對大家有所幫助 你是否知道,JavaScript中有一種原生的方法來做對象的深拷貝? 本文我們要介紹的是 structuredClone 函數,它是內置在 JavaScript 運行時中的: const calendarEvent = { title: ...
  • hash 和 history 區別: 外觀上:hash的路由在url中帶有#號 功能上: hash雖然在url中,但是請求不會包裹它,對後端不會產生任何影響,改變hash不會重新載入頁面。 history是利用了html5 history interface中新增的pushState()和repla ...
  • JavaScript 實現非同步任務迴圈順序執行 需求場景:數組的元素作為非同步任務的參數,迴圈遍歷該數組,並執行非同步任務。 一、錯誤的實現 簡單的錯誤實現 // 非同步任務的參數數組 const arr = [1, 2, 3, 4]; // 非同步任務函數 function task(params, ca ...
  • 迭代器模式(Iterator Pattern):提供一種方法順序訪問一個聚合對象中的各個元素,而不需要暴露該對象的內部表示。在JavaScript中,可以使用迭代器模式來操作數組或類數組對象。 在迭代器模式中,集合對象包含一個方法,用於返回一個迭代器,該迭代器可以按順序訪問該集合中的元素。迭代器提供 ...
  • 1. 效果展示 線上查看 2. 開始前說明 效果實現參考源碼:Logo 聚集與散開 原效果代碼基於 react jsx 類組件實現。依賴舊,代碼冗餘。 我將基於此進行重構,重構目標: 基於最新依賴包,用 ts + hook 實現效果 簡化 dom 結構及樣式 支持響應式 重構應該在還原的基礎上,用更 ...
  • vue生命周期一般為8個,特殊時期為10個 beforeCreate: //發生在頁面完成初始化,組件創建之前,數據尚未掛載 created://發生在組件創建完成時,數據已掛載,可以在此調用介面查數據,防止頁面抖動。 beforeMount://發生在組件掛載之前 mounted://發生在組件掛 ...
一周排行
    -Advertisement-
    Play Games
  • Timer是什麼 Timer 是一種用於創建定期粒度行為的機制。 與標準的 .NET System.Threading.Timer 類相似,Orleans 的 Timer 允許在一段時間後執行特定的操作,或者在特定的時間間隔內重覆執行操作。 它在分散式系統中具有重要作用,特別是在處理需要周期性執行的 ...
  • 前言 相信很多做WPF開發的小伙伴都遇到過表格類的需求,雖然現有的Grid控制項也能實現,但是使用起來的體驗感並不好,比如要實現一個Excel中的表格效果,估計你能想到的第一個方法就是套Border控制項,用這種方法你需要控制每個Border的邊框,並且在一堆Bordr中找到Grid.Row,Grid. ...
  • .NET C#程式啟動閃退,目錄導致的問題 這是第2次踩這個坑了,很小的編程細節,容易忽略,所以寫個博客,分享給大家。 1.第一次坑:是windows 系統把程式運行成服務,找不到配置文件,原因是以服務運行它的工作目錄是在C:\Windows\System32 2.本次坑:WPF桌面程式通過註冊表設 ...
  • 在分散式系統中,數據的持久化是至關重要的一環。 Orleans 7 引入了強大的持久化功能,使得在分散式環境下管理數據變得更加輕鬆和可靠。 本文將介紹什麼是 Orleans 7 的持久化,如何設置它以及相應的代碼示例。 什麼是 Orleans 7 的持久化? Orleans 7 的持久化是指將 Or ...
  • 前言 .NET Feature Management 是一個用於管理應用程式功能的庫,它可以幫助開發人員在應用程式中輕鬆地添加、移除和管理功能。使用 Feature Management,開發人員可以根據不同用戶、環境或其他條件來動態地控制應用程式中的功能。這使得開發人員可以更靈活地管理應用程式的功 ...
  • 在 WPF 應用程式中,拖放操作是實現用戶交互的重要組成部分。通過拖放操作,用戶可以輕鬆地將數據從一個位置移動到另一個位置,或者將控制項從一個容器移動到另一個容器。然而,WPF 中預設的拖放操作可能並不是那麼好用。為瞭解決這個問題,我們可以自定義一個 Panel 來實現更簡單的拖拽操作。 自定義 Pa ...
  • 在實際使用中,由於涉及到不同編程語言之間互相調用,導致C++ 中的OpenCV與C#中的OpenCvSharp 圖像數據在不同編程語言之間難以有效傳遞。在本文中我們將結合OpenCvSharp源碼實現原理,探究兩種數據之間的通信方式。 ...
  • 一、前言 這是一篇搭建許可權管理系統的系列文章。 隨著網路的發展,信息安全對應任何企業來說都越發的重要,而本系列文章將和大家一起一步一步搭建一個全新的許可權管理系統。 說明:由於搭建一個全新的項目過於繁瑣,所有作者將挑選核心代碼和核心思路進行分享。 二、技術選擇 三、開始設計 1、自主搭建vue前端和. ...
  • Csharper中的表達式樹 這節課來瞭解一下表示式樹是什麼? 在C#中,表達式樹是一種數據結構,它可以表示一些代碼塊,如Lambda表達式或查詢表達式。表達式樹使你能夠查看和操作數據,就像你可以查看和操作代碼一樣。它們通常用於創建動態查詢和解析表達式。 一、認識表達式樹 為什麼要這樣說?它和委托有 ...
  • 在使用Django等框架來操作MySQL時,實際上底層還是通過Python來操作的,首先需要安裝一個驅動程式,在Python3中,驅動程式有多種選擇,比如有pymysql以及mysqlclient等。使用pip命令安裝mysqlclient失敗應如何解決? 安裝的python版本說明 機器同時安裝了 ...