記一次線上問題 → Deadlock 的分析與優化

来源:https://www.cnblogs.com/youzhibing/archive/2023/07/31/17578206.html
-Advertisement-
Play Games

開心一刻 今天女朋友很生氣 女朋友:我發現你們男的,都挺單純的 我:這話怎麼說 女朋友:腦袋裡就只想三件事,搞錢,跟誰喝點,還有這娘們真好看 我:你錯了,其實我們男人吧,每天只合計一件事 女朋友:啥事呀? 我:這娘們真好看,得搞錢跟她喝點 問題復現 需求背景 MySQL8.0.30 ,隔離級別是預設 ...


開心一刻

  今天女朋友很生氣

  女朋友:我發現你們男的,都挺單純的

  我:這話怎麼說

  女朋友:腦袋裡就只想三件事,搞錢,跟誰喝點,還有這娘們真好看

  我:你錯了,其實我們男人吧,每天只合計一件事

  女朋友:啥事呀?

  我:這娘們真好看,得搞錢跟她喝點

問題復現

  需求背景

   MySQL8.0.30 ,隔離級別是預設的,也就是 REPEATABLE-READ 

  表: tbl_class_student ,id 非自增,整張表的全部欄位數據都是從上游服務進行同步

  需求:上游服務發送同步MQ,本服務收到消息後再調上游服務介面,查詢全量數據,對 tbl_class_student 表數據進行更新,若記錄存在則更新,不存在則插入

  這需求是不是很明確?放心,沒有下套!

  線上問題

  通過線上異常日誌,最終定位到如下代碼

  咋一看,這代碼是不是無比的清晰明瞭?

  都不用註釋,就能清楚的知道這個代碼是在做什麼:逐行更新,存在則更新,不存在則插入

  是不是無比的契合需求?

  但是,真的就完美無瑕嗎

  且看我表演一波

  表演代碼如下:

@Override
@Transactional(rollbackFor = Exception.class)
public void batchSaveOrUpdate(List<TblClassStudent> classStudents) {
    if(CollectionUtils.isEmpty(classStudents)) {
        return;
    }
    classStudents.forEach(classStudent -> {
        this.getBaseMapper().saveOrUpdate(classStudent);
        try {
            // 為了方便復現問題,睡眠1秒
            TimeUnit.SECONDS.sleep(1);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
    });
}

// 單元測試
@Test
public void batchSaveOrUpdateTest() throws InterruptedException {

    TblClassStudent classStudent = new TblClassStudent();
    classStudent.setId(1);
    classStudent.setClassNo("20231010");
    classStudent.setStudentNo("20231010201");

    TblClassStudent classStudent1 = new TblClassStudent();
    classStudent1.setId(2);
    classStudent1.setClassNo("20231010");
    classStudent1.setStudentNo("20231010202");

    List<TblClassStudent> classStudents1 = new ArrayList<>();
    classStudents1.add(classStudent);
    classStudents1.add(classStudent1);

    List<TblClassStudent> classStudents2 = new ArrayList<>();
    classStudents2.add(classStudent1);
    classStudents2.add(classStudent);

    // 模擬2個線程,同時批量更新
    CountDownLatch latch = new CountDownLatch(2);
    new Thread(() -> {
        studentService.batchSaveOrUpdate(classStudents1);
        latch.countDown();
    }, "t1").start();
    new Thread(() -> {
        studentService.batchSaveOrUpdate(classStudents2);
        latch.countDown();
    }, "t2").start();
    latch.await();
    System.out.println("主線程執行完畢");
}
View Code

   Deadlock 就這麼誕生了!

優化處理

  死鎖產生條件

  死鎖產生的條件,大家還記得嗎?

  回到上訴案例,鎖的持有、申請情況如下

  死鎖自然就產生了

  那麼該如何處理了

  排序處理

  不同線程調用同一個方法處理數據而產生死鎖

  這種情況對處理的數據進行排序處理,使得不同線程申請資料庫鎖的順序保持一致,那麼就不會產生死鎖

  分批處理

  事務時間越短越好

  批量逐條更新,會導致事務持續的時間很長,那麼出現死鎖的概率就越大

  分批處理可以減少事務時長

  加鎖處理

  這裡的鎖指的並非資料庫層面的鎖,而是業務代碼層面的鎖

  可以是 JVM 的鎖,適用於單節點部署的情況

  可以是分散式鎖,適用於單節點部署,也適用於多節點部署;具體實現方式有很多,結合實際情況選擇一種合適的實現方式即可

總結

  1、批量逐條更新,這是嚴令禁止的

    效率低下,導致事務時長大大增加,會引發一系列其他的問題

  2、資料庫的加鎖是比較複雜的,不同的資料庫的加鎖實現也是有區別的

    本篇中的死鎖案例還是比較好分析的

    遇到不好分析的,需要向同事(dba、開發同事等)發出求助,也可以線上求助資料庫博主

  3、面對不同問題,結合業務來分析出最合適的處理方式

    有的業務對性能要求高

    有的業務對數據準確性要求高

    


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • SQLite 是一個軟體庫,實現了自給自足的、無伺服器的、零配置的、事務性的 SQL 資料庫引擎。SQLite 是在世界上最廣泛部署的 SQL 資料庫引擎。SQLite 源代碼不受版許可權制。 ...
  • 在mysql未支持json數據類型時,我們通常使用varchar、blob或text的數據類型存儲json字元串,對mysql來說,用戶插入的數據只是序列化後的一個普通的字元串,不會對JSON文檔本身的語法合法性做檢查,文檔的合法性需要用戶自己保證。在使用時需要先將整個json對象從資料庫讀取出來,... ...
  • 一、視圖介紹 視圖(View):是一種虛擬存在的表,視圖中的數據並不在資料庫中實際存在,行和列數據來自,定義視圖時查詢使用的表,並且是在使用視圖時動態生成的。通俗的講,視圖只保存了查詢的SQL邏輯,不保存查詢的結果。 二、創建視圖 2.1 語法 create [or replace] view 視圖 ...
  • 年初和朋友一起做了個項目,到現在還沒收到錢呢,今天中午時候突然聽說之前的資料庫被攻擊了,業務資料庫全部被刪除。看有沒有什麼辦法恢復,要是恢復不了,肯定也別想拿錢了吧? | README FOR RECOVERY DATA | | | | All your databases was backed u ...
  • 本文分享自華為雲社區《產教融合 華為雲GaussDB助力資料庫產業人才培養》,作者: GaussDB 資料庫。 近日,GaussDB資料庫產教融合論壇在華為蘇州研究所舉行。本次論壇邀請了多位知名高校老師、北京金融科技產業聯盟代表和金融行業DBA代表到場參加,共同圍繞企業資料庫人才需求、高校資料庫人才 ...
  • 近年來,隨著雲計算、大數據等新一代信息技術的飛速發展,水務治理迎來智慧化新時代。藉助新一代信息技術打破傳統水務系統的信息孤島,實現數據共用,增強水務全流程監管能力,實現水務的智慧服務、高效運營和安全穩定,成為水務治理新的發力點。 ...
  • --建表語句IF EXISTS (SELECT TABLE_NAME FROM INFORMATION_SCHEMA.TABLES WHERE TABLE_NAME = 'MENU_INFO') DROP TABLE MENU_INFO;CREATE TABLE MENU_INFO(MENU_ID ...
  • 競速榜是大促期間各採銷群提供的基於京東實時銷售數據的排行榜,同樣應對大促流量洪峰場景,通過榜單撬動品牌在京東增加資源投入。競速榜基於用戶配置規則進行實時數據計算,榜單排名在大促期間實時變化,相關排名數據在微博、朋友圈廣泛傳播,相關計算以及排名的準確性至關重要。 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...