Redis基礎知識(學習筆記20--高併發場景)

来源:https://www.cnblogs.com/xuliuzai/p/18383585
-Advertisement-
Play Games

最近在看Apache DolphineScheduler,發現DolphinScheduler在處理任務時,通過先將任務快速的存儲在資料庫中,然後基於對應的Task,將Task放入隊列中,然後將Task進行快速消費的思路。 這種模型在很多框架中,都有體現。 我們知道在Master模塊時處理任務的核心 ...


一. 高併發場景下常見的3種問題

1.1 緩存穿透

當用戶訪問的數據既不存在緩存中也不在資料庫中時,就會導致每個用戶查詢都會“穿透”緩存“直抵”資料庫。這種情況就成為緩存穿透。當高併發的請求到達時,緩存穿透不僅增加了響應時間,而且還會引發對DBMS的高併發查詢,這種高併發查詢很可能會導致DBMS的奔潰。
緩存穿透產生的主要原因有兩個:一是在資料庫中沒有相應的查詢結果,二是查詢結果為空時,不對查詢結果進行緩存。所以,針對以上兩點,解決方案也有兩個:
* 對非法請求進行限制;
* 對結果為空的查詢給出預設值。

1.2 緩存擊穿

對於某一個緩存,在高併發情況下若其訪問量特別巨大,當該緩存的有效時間達到時,可能會出現大量的訪問都要重建該緩存,即這些訪問請求發現緩存中沒有該數據,則立即到DBMS中進行查詢,那麼這就有可能會引發對DBMS的高併發查詢,從而導致DBMS的崩潰。這種情況稱為緩存擊穿,而該緩存數據稱為熱點數據。
對於緩存擊穿的解決方案,較典型的是使用“雙重檢測鎖”機制。

1.3 緩存雪崩

對於緩存中的數據,很多都是有過期時間的。若大量緩存的過期時間在同一很短的時間段內幾乎同時達到,那麼在高併發訪問場景下就可能會引發對DBMS的高併發查詢,而這將可能直接導致DBMS的奔潰。這種情況稱為緩存雪崩。
對於緩存雪崩沒有很直接的解決方案,最好的解決方案就是預防,即提前規劃好緩存的過期時間。要麼就是讓緩存永久有效,當DB中數據發生變化時清除相應的緩存。如果DBMS採用的是分散式部署,則將熱點數據均勻分佈在不同資料庫節點中,則可能到來的訪問負載均衡開來。

二. 資料庫緩存雙寫不一致

以上三種情況都是針對高併發 讀 場景中可能會出現的問題,而資料庫緩存雙寫不一致問題,則是在高併發 寫 場景下出現的問題。
對於資料庫緩存雙寫不一致問題,以下兩種場景均有可能會發生:

2.1 “修改DB更新緩存”場景

對於具有緩存warmup功能的系統,DBMS中常用數據的變更,都會引發緩存中相關數據的更新。

在高併發 操作場景下,若多個請求要對DBMS中同一個數據進行修改,修改後還需要更新緩存中相關數據,那麼就有可能出現緩存與資料庫中數據不一致的情況。

概況舉例如下,

理想情況下的訪問:

異常情況

2.2 修改DB刪除緩存”場景

在很多系統中是沒有緩存warmup功能的,為了保持緩存與資料庫數據的一致性,一般都是在對資料庫執行了寫操作後,就會刪除相應緩存。
在高併發 讀寫 請求場景下,若這些請求對DBMS中同一個數據的操作既包含寫也包含讀,且修改後還要刪除緩存中相關數據,那麼就有可能會出現緩存與資料庫中數據不一致的情況。

概況舉例如下:

仍然為秒殺系統,庫存stock的值為10,請求a要秒殺3個商品,請求b僅查看商品剩餘數量,暫時不參與搶購。

理想情況下的訪問:

 異常情況(即 資料庫與緩存雙寫數據不一致問題)

 三. 解決方案

3.1 延遲雙刪

延遲雙刪方案是專門針對於“修改DB刪除緩存”場景的解決方案。但該方案並不能徹底解決數據不一致的狀況,其只可能降低發生數據不一致的概率。

延遲雙刪方案是指,在寫操作完畢後會立即執行一次緩存的刪除操作,然後再停止一段時間(一般為幾秒)後再進行一次刪除。而兩次刪除中間的間隔時長,要大於一次緩存寫操作的時長。

 難點在於雙刪之間的停頓時間大小的設置。

3.2 隊列

以上兩種場景中,之所以會出現資料庫與緩存中數據不一致,主要是因為對請求的處理出現了並行。只要將請求寫入到一個統一的隊列,只有處理完一個請求後才可以處理下一個請求,即 系統對用戶的請求處理串列化,這樣就可以解決數據不一致的問題。

主要問題:併發性差。

3.3 分散式鎖

使用隊列的串列化雖然可以解決資料庫與緩存中數據不一致,但系統失去了併發性,降低了性能。使用分散式鎖可以在不影響併發的前提下,協調各處理線程間的關係,使資料庫與緩存中的數據達成一致性。

只需要對資料庫中的這個共用數據的訪問,通過分散式鎖來協調對其的操作即可。

 

學習筆記--參閱特別聲明

【Redis視頻從入門到高級】

【https://www.bilibili.com/video/BV1U24y1y7jF?p=11&vd_source=0e347fbc6c2b049143afaa5a15abfc1c】


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 在ByteHouse的支持下,目前該公司在銷售數據的非ACL查詢和ACL查詢兩個方向上,都實現了查詢效率的顯著提升。以ACL查詢的60M廣告客戶DI場景為例,查詢效率已經從從優化前的16秒大幅縮短至如今的1秒,效率提升高達16倍。 ...
  • 寫在前面 今天來繼續學習 Redis。 Redis 持久化機制 快照 (Snapshot) 特點 快照持久化可以將某一時刻的所有數據寫入硬碟,預設開啟,保存為 .rdb 文件,也稱為 RDB 持久化。 快照生成方式 客戶端方式 BGSAVE 使用 BGSAVE 命令創建快照,Redis 會創建一個子 ...
  • Redis概述安裝與基本數據類型 1. 什麼是NoSQL NoSQL( Not Only SQL ),意即不僅僅是SQL, 泛指非關係型的資料庫。Nosql這個技術門類,早期就有人提出,發展至2009年趨勢越發高漲。 2. NoSQL的廣泛應用 隨著大數據的興起,數據量的暴增,數據類型的豐富,傳統的 ...
  • CRISP-DM是一個數據挖掘項目規劃的開放標準流程框架模型,主要分為業務理解、數據理解、數據準備、建模、評估、部署六個階段。 ...
  • 寫在前面 今天我們繼續學習 Redis。 Redis 常用數據類型 在 Redis 中,每個存儲的鍵值對中,鍵是 String 類型,值可以是不同的數據類型。Redis 的索引是含頭含尾的。 String 記憶體模型 常用指令 設置值 SET key value: 設置一個 key/value。 MS ...
  • 一開始沒有讓自我介紹,三個項目問了兩個,就是介紹一下項目,技術棧是哪些,整個項目流程是怎麼樣的,然後提出了一些優化問題,主要是資料庫資料庫方面的,還有網路通信,總體難度自我感覺中等偏上,八股幾乎沒問,我把面試過程中基本上問到的所有問題都整理了在下麵了,附上答案,如有問題請指出。 1. 資料庫使用uu ...
  • 通過 T-SQL 語句來添加、刪除或修改鏈接伺服器配置 進行跨資料庫、跨實例或甚至跨資料庫系統的數據集成和查詢 SELECT * FROM sysservers 可以查出當前 SQL Server 實例上配置的所有鏈接伺服器的列表及其相關信息 示例使用 Transact-SQL 創建與其他 SQL ...
  • 近年來,政府將數據要素納入了經濟發展的重要指示性文件當中,數據作為一種新型生產要素,已經成為第五大生產要素。 要實現數據要素的市場效能,真正發揮數據生產要素的作用,離不開數據資產化,而數據資產化自然也離不開數據資產管理這一基礎工作。數據資產管理是釋放數據要素價值、推動數據要素市場發展的重要前提。 全 ...
一周排行
    -Advertisement-
    Play Games
  • 前言 推薦一款基於.NET 8、WPF、Prism.DryIoc、MVVM設計模式、Blazor以及MySQL資料庫構建的企業級工作流系統的WPF客戶端框架-AIStudio.Wpf.AClient 6.0。 項目介紹 框架採用了 Prism 框架來實現 MVVM 模式,不僅簡化了 MVVM 的典型 ...
  • 先看一下效果吧: 我們直接通過改造一下原版的TreeView來實現上面這個效果 我們先創建一個普通的TreeView 代碼很簡單: <TreeView> <TreeViewItem Header="人事部"/> <TreeViewItem Header="技術部"> <TreeViewItem He ...
  • 1. 生成式 AI 簡介 https://imp.i384100.net/LXYmq3 2. Python 語言 https://imp.i384100.net/5gmXXo 3. 統計和 R https://youtu.be/ANMuuq502rE?si=hw9GT6JVzMhRvBbF 4. 數 ...
  • 本文為大家介紹下.NET解壓/壓縮zip文件。雖然解壓縮不是啥核心技術,但壓縮性能以及進度處理還是需要關註下,針對使用較多的zip開源組件驗證,給大家提供個技術選型參考 之前在《.NET WebSocket高併發通信阻塞問題 - 唐宋元明清2188 - 博客園 (cnblogs.com)》講過,團隊 ...
  • 之前寫過兩篇關於Roslyn源生成器生成源代碼的用例,今天使用Roslyn的代碼修複器CodeFixProvider實現一個cs文件頭部註釋的功能, 代碼修複器會同時涉及到CodeFixProvider和DiagnosticAnalyzer, 實現FileHeaderAnalyzer 首先我們知道修 ...
  • 在軟體行業,經常會聽到一句話“文不如表,表不如圖”說明瞭圖形在軟體應用中的重要性。同樣在WPF開發中,為了程式美觀或者業務需要,經常會用到各種個樣的圖形。今天以一些簡單的小例子,簡述WPF開發中幾何圖形(Geometry)相關內容,僅供學習分享使用,如有不足之處,還請指正。 ...
  • 在 C# 中使用 RabbitMQ 通過簡訊發送重置後的密碼到用戶的手機號上,你可以按照以下步驟進行 1.安裝 RabbitMQ 客戶端庫 首先,確保你已經安裝了 RabbitMQ 客戶端庫。你可以通過 NuGet 包管理器來安裝: dotnet add package RabbitMQ.Clien ...
  • 1.下載 Protocol Buffers 編譯器(protoc) 前往 Protocol Buffers GitHub Releases 頁面。在 "Assets" 下找到適合您系統的壓縮文件,通常為 protoc-{version}-win32.zip 或 protoc-{version}-wi ...
  • 簡介 在現代微服務架構中,服務發現(Service Discovery)是一項關鍵功能。它允許微服務動態地找到彼此,而無需依賴硬編碼的地址。以前如果你搜 .NET Service Discovery,大概率會搜到一大堆 Eureka,Consul 等的文章。現在微軟為我們帶來了一個官方的包:Micr ...
  • ZY樹洞 前言 ZY樹洞是一個基於.NET Core開發的簡單的評論系統,主要用於大家分享自己心中的感悟、經驗、心得、想法等。 好了,不賣關子了,這個項目其實是上班無聊的時候寫的,為什麼要寫這個項目呢?因為我單純的想吐槽一下工作中的不滿而已。 項目介紹 項目很簡單,主要功能就是提供一個簡單的評論系統 ...