從構建分散式秒殺系統聊聊Disruptor高性能隊列

来源:https://www.cnblogs.com/smallSevens/archive/2018/05/24/9081000.html
-Advertisement-
Play Games

前言 秒殺架構持續優化中,基於自身認知不足之處在所難免,也請大家指正,共同進步。文章標題來自碼友的建議,希望可以把阻塞隊列ArrayBlockingQueue這個隊列替換成Disruptor,由於之前曾接觸過這個東西,聽說很不錯,正好藉此機會整合進來。 簡介 LMAX Disruptor是一個高性能 ...


前言

秒殺架構持續優化中,基於自身認知不足之處在所難免,也請大家指正,共同進步。文章標題來自碼友的建議,希望可以把阻塞隊列ArrayBlockingQueue這個隊列替換成Disruptor,由於之前曾接觸過這個東西,聽說很不錯,正好藉此機會整合進來。

簡介

LMAX Disruptor是一個高性能的線程間消息庫。它源於LMAX對併發性,性能和非阻塞演算法的研究,如今構成了Exchange基礎架構的核心部分。

  • Disruptor它是一個開源的併發框架,並獲得2011 Duke’s 程式框架創新獎,能夠在無鎖的情況下實現網路的Queue併發操作。

  • Disruptor是一個高性能的非同步處理框架,或者可以認為是最快的消息框架(輕量的JMS),也可以認為是一個觀察者模式的實現,或者事件監聽模式的實現。

在這裡你可以跟BlockingQueue隊列作比對,簡單的理解為它是一種高效的"生產者-消費者"模型,先瞭解後深入底層原理。

核心

寫代碼案例之前,大家最好先瞭解 Disruptor 的核心概念,至少知道它是如何運作的。

  • Ring Buffer
    如其名,環形的緩衝區。曾經 RingBuffer 是 Disruptor 中的最主要的對象,但從3.0版本開始,其職責被簡化為僅僅負責對通過 Disruptor 進行交換的數據(事件)進行存儲和更新。在一些更高級的應用場景中,Ring Buffer 可以由用戶的自定義實現來完全替代。
  • Sequence Disruptor
    通過順序遞增的序號來編號管理通過其進行交換的數據(事件),對數據(事件)的處理過程總是沿著序號逐個遞增處理。一個 Sequence 用於跟蹤標識某個特定的事件處理者( RingBuffer/Consumer )的處理進度。雖然一個 AtomicLong 也可以用於標識進度,但定義 Sequence 來負責該問題還有另一個目的,那就是防止不同的 Sequence 之間的CPU緩存偽共用(Flase Sharing)問題。
  • Sequencer
    Sequencer 是 Disruptor 的真正核心。此介面有兩個實現類 SingleProducerSequencer、MultiProducerSequencer ,它們定義在生產者和消費者之間快速、正確地傳遞數據的併發演算法。
  • Sequence Barrier
    用於保持對RingBuffer的 main published Sequence 和Consumer依賴的其它Consumer的 Sequence 的引用。 Sequence Barrier 還定義了決定 Consumer 是否還有可處理的事件的邏輯。
  • Wait Strategy
    定義 Consumer 如何進行等待下一個事件的策略。 (註:Disruptor 定義了多種不同的策略,針對不同的場景,提供了不一樣的性能表現)
  • Event
    在 Disruptor 的語義中,生產者和消費者之間進行交換的數據被稱為事件(Event)。它不是一個被 Disruptor 定義的特定類型,而是由 Disruptor 的使用者定義並指定。
  • EventProcessor
    EventProcessor 持有特定消費者(Consumer)的 Sequence,並提供用於調用事件處理實現的事件迴圈(Event Loop)。
  • EventHandler
    Disruptor 定義的事件處理介面,由用戶實現,用於處理事件,是 Consumer 的真正實現。
  • Producer
    即生產者,只是泛指調用 Disruptor 發佈事件的用戶代碼,Disruptor 沒有定義特定介面或類型。

優點

  • 剖析Disruptor:為什麼會這麼快?(一)鎖的缺點
  • 剖析Disruptor:為什麼會這麼快?(二)神奇的緩存行填充
  • 剖析Disruptor:為什麼會這麼快?(三)偽共用
  • 剖析Disruptor:為什麼會這麼快?(四)揭秘記憶體屏障

有興趣的參考:
https://coolshell.cn/articles/9169.html

https://www.cnblogs.com/daoqidelv/p/6995888.html

使用案例

這裡以我們系統中的秒殺作為案例,後面有相對複雜的場景介紹。

定義秒殺事件對象:

/**
 * 事件對象(秒殺事件)
 * 創建者 科幫網
 */
public class SeckillEvent implements Serializable {
    private static final long serialVersionUID = 1L;
    private long seckillId;
    private long userId;
    
    public SeckillEvent(){
        
    }

    public long getSeckillId() {
        return seckillId;
    }

    public void setSeckillId(long seckillId) {
        this.seckillId = seckillId;
    }

    public long getUserId() {
        return userId;
    }

    public void setUserId(long userId) {
        this.userId = userId;
    }
}

為了讓Disruptor為我們預先分配這些事件,我們需要一個將執行構造的EventFactory:

/**
 * 事件生成工廠(用來初始化預分配事件對象)
 * 創建者 科幫網
 */
public class SeckillEventFactory implements EventFactory<SeckillEvent> {

    public SeckillEvent newInstance() {
        return new SeckillEvent();
    }
}

然後,我們需要創建一個處理這些事件的消費者:

/**
 * 消費者(秒殺處理器)
 * 創建者 科幫網
 */
public class SeckillEventConsumer implements EventHandler<SeckillEvent> {
    //業務處理、這裡是無法註入的,需要手動獲取,見源碼
    private ISeckillService seckillService = (ISeckillService) SpringUtil.getBean("seckillService");
    
    public void onEvent(SeckillEvent seckillEvent, long seq, boolean bool) throws Exception {
        seckillService.startSeckil(seckillEvent.getSeckillId(), seckillEvent.getUserId());
    }
}

既然有消費者,我們將需要這些秒殺事件的來源:

/**
 * 使用translator方式生產者
 * 創建者 科幫網
 */
public class SeckillEventProducer {
    
    private final static EventTranslatorVararg<SeckillEvent> translator = new EventTranslatorVararg<SeckillEvent>() {
        public void translateTo(SeckillEvent seckillEvent, long seq, Object... objs) {
            seckillEvent.setSeckillId((Long) objs[0]);
            seckillEvent.setUserId((Long) objs[1]);
        }
    };

    private final RingBuffer<SeckillEvent> ringBuffer;
    
    public SeckillEventProducer(RingBuffer<SeckillEvent> ringBuffer){
        this.ringBuffer = ringBuffer;
    }
    
    public void seckill(long seckillId, long userId){
        this.ringBuffer.publishEvent(translator, seckillId, userId);
    }
}

最後,我們來寫一個測試類,運行一下(跑不通,需要修改消費者):

/**
 * 測試類
 * 創建者 科幫網
 */
public class SeckillEventMain {

    public static void main(String[] args) {
        producerWithTranslator();
    }
    public static void producerWithTranslator(){
        SeckillEventFactory factory = new SeckillEventFactory();
        int ringBufferSize = 1024;
        ThreadFactory threadFactory = new ThreadFactory() {
            public Thread newThread(Runnable runnable) {
                return new Thread(runnable);
            }
        };
        //創建disruptor
        Disruptor<SeckillEvent> disruptor = new Disruptor<SeckillEvent>(factory, ringBufferSize, threadFactory);
        //連接消費事件方法
        disruptor.handleEventsWith(new SeckillEventConsumer());
        //啟動
        disruptor.start();
        RingBuffer<SeckillEvent> ringBuffer = disruptor.getRingBuffer();
        SeckillEventProducer producer = new SeckillEventProducer(ringBuffer);
        for(long i = 0; i<10; i++){
            producer.seckill(i, i);
        }
        disruptor.shutdown();//關閉 disruptor,方法會堵塞,直至所有的事件都得到處理;
    }
}

使用場景

  • PCP (生產者-消費者問題)
  • 網上搜了下國內實戰案例並不多,大廠可能有在使用

這裡舉一個大家日常的例子,停車場景。當汽車進入停車場時(A),系統首先會記錄汽車信息(B)。同時也會發送消息到其他系統處理相關業務(C),最後發送簡訊通知車主收費開始(D)。

一個生產者A與三個消費者B、C、D,D的事件處理需要B與C先完成。則該模型結構如下:

在這個結構下,每個消費者擁有各自獨立的事件序號Sequence,消費者之間不存在共用競態。SequenceBarrier1監聽RingBuffer的序號cursor,消費者B與C通過SequenceBarrier1等待可消費事件。SequenceBarrier2除了監聽cursor,同時也監聽B與C的序號Sequence,從而將最小的序號返回給消費者D,由此實現了D依賴B與C的邏輯。

代碼案例:從0到1構建分散式秒殺系統

參考:
https://github.com/LMAX-Exchange/disruptor/wiki

https://github.com/LMAX-Exchange/disruptor/wiki/Getting-Started

http://wiki.jikexueyuan.com/project/disruptor-getting-started/lmax-framework.html


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 1.效果圖如下: 2.代碼如下: ...
  • 其實是一種利用符號進行的類型轉換,轉換成數字類型~~true == 1~~false == 0~~"" == 0~~[] == 0~~undefined ==0~~!undefined == 1~~null == 0~~!null == 1 ...
  • 第 1 章 JavaScript簡介 使用 Node.js 搭建 Web 伺服器 JavaScript 的類型有數字、字元串、布爾值、函數和對象。還有 undefined 和 null ,以及數組、日期和正則表達式。 操作符 .cnblogs markdown table th:nth child( ...
  • 做前端開發已經好幾年了,對設計模式一直沒有深入學習總結過。隨著架構相關的工作越來越多,越來越能感覺到設計模式成為了我前進道路上的一個阻礙。所以從今天開始深入學習和總結經典的設計模式以及面向對象的幾大原則。 今天第一天,首先來講策略模式。 什麼是策略模式? GoF四兄弟的經典《設計模式》中,對策略模式 ...
  • 一、抽象類: 抽象類是特殊的類,只是不能被實例化;除此以外,具有類的其他特性;重要的是抽象類可以包括抽象方法,這是普通類所不能的。抽象方法只能聲明於抽象類中,且不包含任何實現,派生類必須覆蓋它們。另外,抽象類可以派生自一個抽象類,可以覆蓋基類的抽象方法也可以不覆蓋,如果不覆蓋,則其派生類必須覆蓋它們 ...
  • 工廠方法模式簡介 定義 定義一個用於創建對象的介面,讓子類決定實例化哪一個類。工廠方法使一個類的實例化延遲到其子類。 簡單工廠 VS 工廠方法 簡單工廠:在工廠類中包含了必要的邏輯判斷,根據客戶端的選擇條件動態實例化相關的類,對於客戶端來說,去除了與具體產品的依賴。但是,當在工廠類中需要添加新的實例 ...
  • 今晚,夜色朦朧,正是幹壞事的好時光。所以,打算和大伙分享點不一樣的內容。 ...
  • Java開源生鮮電商平臺-性能優化以及伺服器優化的設計與架構(源碼可下載) 說明:Java開源生鮮電商平臺-性能優化以及伺服器優化的設計與架構,我採用以下三種維度來講解 1. 代碼層面。 2. 資料庫層面。 3. 伺服器層面 誠然,性能優化這個方面的確是一個長期的過程,並不是大伙們看了我的文章後就覺 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...