golang併發編程的兩種限速方法

来源:http://www.cnblogs.com/jesse-joygenio/archive/2016/07/12/goroutine-limie-rate.html
-Advertisement-
Play Games

golang提供了goroutine快速實現併發編程,在實際環境中,如果goroutine中的代碼要消耗大量資源時(CPU、記憶體、帶寬等),我們就需要對程式限速,以防止goroutine將資源耗盡。下麵我們討論兩種對goroutine限速的實現方法。 ...


引子

golang提供了goroutine快速實現併發編程,在實際環境中,如果goroutine中的代碼要消耗大量資源時(CPU、記憶體、帶寬等),我們就需要對程式限速,以防止goroutine將資源耗盡。
以下麵偽代碼為例,看看goroutine如何拖垮一臺DB。假設userList長度為10000,先從資料庫中查詢userList中的user是否在資料庫中存在,存在則忽略,不存在則創建。

//不使用goroutine,程式運行時間長,但資料庫壓力不大
for _,v:=range userList {
    user:=db.user.Get(v.ID)
    if user==nil {
        newUser:=user{ID:v.ID,UserName:v.UserName}
        db.user.Insert(newUser)
    }
}

//使用goroutine,程式運行時間短,但資料庫可能被拖垮
for _,v:=range userList {
    u:=v
    go func(){
        user:=db.user.Get(u.ID)
        if user==nil {
            newUser:=user{ID:u.ID,UserName:u.UserName}
            db.user.Insert(newUser)
        }
    }()
}
select{}

在示例中,DB在1秒內接收10000次讀操作,最大還會接受10000次寫操作,普通的DB伺服器很難支撐。針對DB,可以在連接池上做手腳,控制訪問DB的速度,這裡我們討論兩種通用的方法。

方案一

在限速時,一種方案是丟棄請求,即請求速度太快時,對後進入的請求直接拋棄。

實現

實現邏輯如下:

package main

import (
    "sync"
    "time"
)

//LimitRate 限速
type LimitRate struct {
    rate     int
    begin    time.Time
    count    int
    lock     sync.Mutex
}

//Limit Limit
func (l *LimitRate) Limit() bool {
    result := true
    l.lock.Lock()
    //達到每秒速率限制數量,檢測記數時間是否大於1秒
    //大於則速率在允許範圍內,開始重新記數,返回true
    //小於,則返回false,記數不變
    if l.count == l.rate {
        if time.Now().Sub(l.begin) >= time.Second {
            //速度允許範圍內,開始重新記數
            l.begin = time.Now()
            l.count = 0
        } else {
            result = false
        }
    } else {
        //沒有達到速率限制數量,記數加1
        l.count++
    }
    l.lock.Unlock()

    return result
}

//SetRate 設置每秒允許的請求數
func (l *LimitRate) SetRate(r int) {
    l.rate = r
    l.begin = time.Now()
}

//GetRate 獲取每秒允許的請求數
func (l *LimitRate) GetRate() int {
    return l.rate
}

測試

下麵是測試代碼:

package main

import (
    "fmt"
)

func main() {
    var wg sync.WaitGroup
    var lr LimitRate
    lr.SetRate(3)
    
    for i:=0;i<10;i++{
        wg.Add(1)
            go func(){
                if lr.Limit() {
                    fmt.Println("Got it!")//顯示3次Got it!
                }           
                wg.Done()
            }()
    }
    wg.Wait()
}

運行結果

Got it!
Got it!
Got it!

只顯示3次Got it!,說明另外7次Limit返回的結果為false。限速成功。

方案二

在限速時,另一種方案是等待,即請求速度太快時,後到達的請求等待前面的請求完成後才能運行。這種方案類似一個隊列。

實現

//LimitRate 限速
type LimitRate struct {
    rate       int
    interval   time.Duration
    lastAction time.Time
    lock       sync.Mutex
}

//Limit 限速
package main

import (
    "sync"
    "time"
)

func (l *LimitRate) Limit() bool {
    result := false
    for {
        l.lock.Lock()
        //判斷最後一次執行的時間與當前的時間間隔是否大於限速速率
        if time.Now().Sub(l.lastAction) > l.interval {
            l.lastAction = time.Now()
                result = true
            }
        l.lock.Unlock()
        if result {
            return result
        }
        time.Sleep(l.interval)
    }
}

//SetRate 設置Rate
func (l *LimitRate) SetRate(r int) {
    l.rate = r
    l.interval = time.Microsecond * time.Duration(1000*1000/l.Rate)
}

//GetRate 獲取Rate
func (l *LimitRate) GetRate() int {
    return l.rate 
}

測試

package main

import (
    "fmt"
    "sync"
    "time"
)

func main() {
    var wg sync.WaitGroup
    var lr LimitRate
    lr.SetRate(3)
    
    b:=time.Now()
    for i := 0; i < 10; i++ {
        wg.Add(1)
        go func() {
            if lr.Limit() {
                fmt.Println("Got it!")
            }
            wg.Done()
        }()
    }
    wg.Wait()
    fmt.Println(time.Since(b))
}

運行結果

Got it!
Got it!
Got it!
Got it!
Got it!
Got it!
Got it!
Got it!
Got it!
Got it!
3.004961704s

與方案一不同,顯示了10次Got it!但是運行時間是3.00496秒,同樣每秒沒有超過3次。限速成功。

改造

回到最初的例子中,我們將限速功能加進去。這裡需要註意,我們的例子中,請求是不能被丟棄的,只能排隊等待,所以我們使用方案二的限速方法。

var lr LimitRate//方案二
//限制每秒運行20次,可以根據實際環境調整限速設置,或者由程式動態調整。
lr.SetRate(20)

//使用goroutine,程式運行時間短,但資料庫可能被拖垮
for _,v:=range userList {
    u:=v
    go func(){
        lr.Limit()
        user:=db.user.Get(u.ID)
        if user==nil {
            newUser:=user{ID:u.ID,UserName:u.UserName}
            db.user.Insert(newUser)
        }
    }()
}
select{}

如果您有更好的方案歡迎交流與分享。

內容為作者原創,未經允許請勿轉載,謝謝合作。


關於作者:
Jesse,目前在Joygenio工作,從事golang語言開發與架構設計。
正在開發維護的產品:www.botposter.com


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 目錄:ASP.NET MVC企業級實戰目錄 像www.verycd.com、博客園、淘寶、京東都有實現站內搜索功能,站內搜索無論在性能和用戶體驗上都非常不錯,本節,通過使用Lucene.Net來實現站內搜索。 演示效果預覽如下圖10-22~10-24所示。 圖10-22 圖10-23 圖10-24 ...
  • 前言 在 "上篇" 文章中介紹瞭如何在 Docker 容器中部署我們的 asp.net core 應用程式,本篇主要是怎麼樣為我們在 Linux 或者 macOs 中部署的 dotnet 程式創建一個守護進程,來保證我們的程式在異常或者是電腦重啟的時候仍然能夠正常訪問。 如果你以後用準備使用 asp ...
  • 今天給大家分享一下C#語法糖的簡單的兩個知識點吧。 自動屬性:在 C# 4.0 和更高版本中,當屬性的訪問器中不需要其他邏輯時,自動實現的屬性可使屬性聲明更加簡潔。 客戶端代碼還可通過這些屬性創建對象。 get and set accessors." id="mt3">如下麵的示例所示聲明屬性時,編 ...
  • 最近在做webform,瀏覽器相容是個問題,這裡我收集了一些獲取瀏覽器信息的資料,可以給一些用戶使用時,提示瀏覽器版本過低,讓升級版本用. 這樣會給開發的我們,省下很多用來調試相容性的時間和精力. 本人就是這樣想的 ~ 瀏覽器:Netscape 瀏覽器版本:5.0 (Windows) 代碼:Mozi ...
  • 轉義匹配語法: “\”+實際字元 \ . * + ? | ( ) { }^ $ [ ] 例如:\\匹配字元“\” \n 匹配換行 \r 匹配回車 \t 匹配水平製表符 \v 匹配垂直製表符 \f 匹配換頁 \nnn 匹配一個8進位ASCII \xnn 匹配一個16進位ASCII \unnnn 匹配4 ...
  • 在eclipse中新建web項目,集成spring開發環境,把集成spring的過程描述如下, 1、從spring官網下載spring的jar包,我這裡是spring4.1,下載的文件中包含了源碼及文檔,我們挑選出需要的jar包,一共20個,為了方便我們可以把20個jar全部放進lib目錄下 2、在 ...
  • 看到很多的開源資料庫會用到MySQL,Python同樣也使用,但是我已經習慣使用圖形化界面,操作感極強的MS-SQL 看到Python也提供MS-SQL連接方式,需要用到PyMssql。 在Windows DOS CMD命令中 輸入: 關於pymssql文檔鏈接 http://pymssql.org ...
  • 轉自:http://www.cnblogs.com/shenliang123/p/3344555.html 在項目中總會遇到一些關於載入的優先順序問題,剛剛就遇到了一個問題,由於項目中使用了quartz任務調度,quartz在web.xml中是使用listener進行監聽的,使得在tomcat啟動的時 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...