Redis基礎知識(學習筆記20--高併發場景)

来源:https://www.cnblogs.com/xuliuzai/p/18383585
-Advertisement-
Play Games

最近在看Apache DolphineScheduler,發現DolphinScheduler在處理任務時,通過先將任務快速的存儲在資料庫中,然後基於對應的Task,將Task放入隊列中,然後將Task進行快速消費的思路。 這種模型在很多框架中,都有體現。 我們知道在Master模塊時處理任務的核心 ...


一. 高併發場景下常見的3種問題

1.1 緩存穿透

當用戶訪問的數據既不存在緩存中也不在資料庫中時,就會導致每個用戶查詢都會“穿透”緩存“直抵”資料庫。這種情況就成為緩存穿透。當高併發的請求到達時,緩存穿透不僅增加了響應時間,而且還會引發對DBMS的高併發查詢,這種高併發查詢很可能會導致DBMS的奔潰。
緩存穿透產生的主要原因有兩個:一是在資料庫中沒有相應的查詢結果,二是查詢結果為空時,不對查詢結果進行緩存。所以,針對以上兩點,解決方案也有兩個:
* 對非法請求進行限制;
* 對結果為空的查詢給出預設值。

1.2 緩存擊穿

對於某一個緩存,在高併發情況下若其訪問量特別巨大,當該緩存的有效時間達到時,可能會出現大量的訪問都要重建該緩存,即這些訪問請求發現緩存中沒有該數據,則立即到DBMS中進行查詢,那麼這就有可能會引發對DBMS的高併發查詢,從而導致DBMS的崩潰。這種情況稱為緩存擊穿,而該緩存數據稱為熱點數據。
對於緩存擊穿的解決方案,較典型的是使用“雙重檢測鎖”機制。

1.3 緩存雪崩

對於緩存中的數據,很多都是有過期時間的。若大量緩存的過期時間在同一很短的時間段內幾乎同時達到,那麼在高併發訪問場景下就可能會引發對DBMS的高併發查詢,而這將可能直接導致DBMS的奔潰。這種情況稱為緩存雪崩。
對於緩存雪崩沒有很直接的解決方案,最好的解決方案就是預防,即提前規劃好緩存的過期時間。要麼就是讓緩存永久有效,當DB中數據發生變化時清除相應的緩存。如果DBMS採用的是分散式部署,則將熱點數據均勻分佈在不同資料庫節點中,則可能到來的訪問負載均衡開來。

二. 資料庫緩存雙寫不一致

以上三種情況都是針對高併發 讀 場景中可能會出現的問題,而資料庫緩存雙寫不一致問題,則是在高併發 寫 場景下出現的問題。
對於資料庫緩存雙寫不一致問題,以下兩種場景均有可能會發生:

2.1 “修改DB更新緩存”場景

對於具有緩存warmup功能的系統,DBMS中常用數據的變更,都會引發緩存中相關數據的更新。

在高併發 操作場景下,若多個請求要對DBMS中同一個數據進行修改,修改後還需要更新緩存中相關數據,那麼就有可能出現緩存與資料庫中數據不一致的情況。

概況舉例如下,

理想情況下的訪問:

異常情況

2.2 修改DB刪除緩存”場景

在很多系統中是沒有緩存warmup功能的,為了保持緩存與資料庫數據的一致性,一般都是在對資料庫執行了寫操作後,就會刪除相應緩存。
在高併發 讀寫 請求場景下,若這些請求對DBMS中同一個數據的操作既包含寫也包含讀,且修改後還要刪除緩存中相關數據,那麼就有可能會出現緩存與資料庫中數據不一致的情況。

概況舉例如下:

仍然為秒殺系統,庫存stock的值為10,請求a要秒殺3個商品,請求b僅查看商品剩餘數量,暫時不參與搶購。

理想情況下的訪問:

 異常情況(即 資料庫與緩存雙寫數據不一致問題)

 三. 解決方案

3.1 延遲雙刪

延遲雙刪方案是專門針對於“修改DB刪除緩存”場景的解決方案。但該方案並不能徹底解決數據不一致的狀況,其只可能降低發生數據不一致的概率。

延遲雙刪方案是指,在寫操作完畢後會立即執行一次緩存的刪除操作,然後再停止一段時間(一般為幾秒)後再進行一次刪除。而兩次刪除中間的間隔時長,要大於一次緩存寫操作的時長。

 難點在於雙刪之間的停頓時間大小的設置。

3.2 隊列

以上兩種場景中,之所以會出現資料庫與緩存中數據不一致,主要是因為對請求的處理出現了並行。只要將請求寫入到一個統一的隊列,只有處理完一個請求後才可以處理下一個請求,即 系統對用戶的請求處理串列化,這樣就可以解決數據不一致的問題。

主要問題:併發性差。

3.3 分散式鎖

使用隊列的串列化雖然可以解決資料庫與緩存中數據不一致,但系統失去了併發性,降低了性能。使用分散式鎖可以在不影響併發的前提下,協調各處理線程間的關係,使資料庫與緩存中的數據達成一致性。

只需要對資料庫中的這個共用數據的訪問,通過分散式鎖來協調對其的操作即可。

 

學習筆記--參閱特別聲明

【Redis視頻從入門到高級】

【https://www.bilibili.com/video/BV1U24y1y7jF?p=11&vd_source=0e347fbc6c2b049143afaa5a15abfc1c】


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 在ByteHouse的支持下,目前該公司在銷售數據的非ACL查詢和ACL查詢兩個方向上,都實現了查詢效率的顯著提升。以ACL查詢的60M廣告客戶DI場景為例,查詢效率已經從從優化前的16秒大幅縮短至如今的1秒,效率提升高達16倍。 ...
  • 寫在前面 今天來繼續學習 Redis。 Redis 持久化機制 快照 (Snapshot) 特點 快照持久化可以將某一時刻的所有數據寫入硬碟,預設開啟,保存為 .rdb 文件,也稱為 RDB 持久化。 快照生成方式 客戶端方式 BGSAVE 使用 BGSAVE 命令創建快照,Redis 會創建一個子 ...
  • Redis概述安裝與基本數據類型 1. 什麼是NoSQL NoSQL( Not Only SQL ),意即不僅僅是SQL, 泛指非關係型的資料庫。Nosql這個技術門類,早期就有人提出,發展至2009年趨勢越發高漲。 2. NoSQL的廣泛應用 隨著大數據的興起,數據量的暴增,數據類型的豐富,傳統的 ...
  • CRISP-DM是一個數據挖掘項目規劃的開放標準流程框架模型,主要分為業務理解、數據理解、數據準備、建模、評估、部署六個階段。 ...
  • 寫在前面 今天我們繼續學習 Redis。 Redis 常用數據類型 在 Redis 中,每個存儲的鍵值對中,鍵是 String 類型,值可以是不同的數據類型。Redis 的索引是含頭含尾的。 String 記憶體模型 常用指令 設置值 SET key value: 設置一個 key/value。 MS ...
  • 一開始沒有讓自我介紹,三個項目問了兩個,就是介紹一下項目,技術棧是哪些,整個項目流程是怎麼樣的,然後提出了一些優化問題,主要是資料庫資料庫方面的,還有網路通信,總體難度自我感覺中等偏上,八股幾乎沒問,我把面試過程中基本上問到的所有問題都整理了在下麵了,附上答案,如有問題請指出。 1. 資料庫使用uu ...
  • 通過 T-SQL 語句來添加、刪除或修改鏈接伺服器配置 進行跨資料庫、跨實例或甚至跨資料庫系統的數據集成和查詢 SELECT * FROM sysservers 可以查出當前 SQL Server 實例上配置的所有鏈接伺服器的列表及其相關信息 示例使用 Transact-SQL 創建與其他 SQL ...
  • 近年來,政府將數據要素納入了經濟發展的重要指示性文件當中,數據作為一種新型生產要素,已經成為第五大生產要素。 要實現數據要素的市場效能,真正發揮數據生產要素的作用,離不開數據資產化,而數據資產化自然也離不開數據資產管理這一基礎工作。數據資產管理是釋放數據要素價值、推動數據要素市場發展的重要前提。 全 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...