swoole中使用task進程非同步的處理耗時任務

来源:https://www.cnblogs.com/wadhf/archive/2019/11/08/11823293.html
-Advertisement-
Play Games

我們知道,swoole中有兩大進程,分別是 master 主進程和 manager 管理進程。 其中 master 主進程中會有一個主 reactor 線程和多個 reactor 線程,主要的作用就是用來維護TCP連接,處理網路IO,收發數據。 而 manager 管理進程,作用則是 fork 和管 ...


我們知道,swoole中有兩大進程,分別是 master 主進程和 manager 管理進程。

其中 master 主進程中會有一個主 reactor 線程和多個 reactor 線程,主要的作用就是用來維護TCP連接,處理網路IO,收發數據。

而 manager 管理進程,作用則是 fork 和管理 worker 和 task 進程。

worker 進程的作用是接收 reactor 線程傳遞的數據,並處理數據,返回處理結果給 reactor 線程。

task 進程的作用是處理一些相對耗時的任務,task 與 worker 進程是獨立的,不會影響 worker 進程處理客戶端的請求。

 

一、task 進程的應用場景:

1、相對耗時的郵件群發,比如某某活動,需要給100W用戶發送活動郵件。

2、推送某些大V的動態,比如某大V發了條新消息,粉絲需要及時獲取到該動態。

 

二、worker 與 task 的相互關係:

1、worker 進程中能過調用 task() 來投遞任務,task 進程中 通過 onTask 事件來響應投遞來的任務。

2、task 進程中 通過 直接返回 或 調用 finish() 來告訴 worker 進程任務處理完畢,worker 進程中 通過 onFinish 事件響應任務完成。

 

三、使用 task 的前題:

1、在 Server 中 配置 task_worker_num 數量。

2、設置 Server 的 onTask 和 onFinish 事件回調函數。

 

四、簡單的使用task進行累加和的計算例子

<?php
 
$server = new swoole_server('0.0.0.0', 6666);
 
$server->set([
    'worker_num' => 2,
    'task_worker_num' => 16,
]);
 
$server->on('WorkerStart', function ($server, $worker_id) {
    //註意這裡,我們通過taskworker來判斷是task進程還是worker進程
    //需要在worker進程中調用task(),不然會報出警告
    //這裡會執行兩遍,因為我們設置了worker_num數為2
    if (!$server->taskworker) {
        echo '投遞任務開始...', PHP_EOL;
        //投遞32個累加計算任務給16個task進程
        for ($ix = 0; $ix < 32; $ix++) {
            //註意這裡的投遞是非同步的
            $server->task([mt_rand(1, 100), mt_rand(1000, 9999)]);
        }
        echo '投遞任務結束...', PHP_EOL;
    }
});
 
//server服務必須要有onReceive回調
$server->on('Receive', function ($server, $fd, $reactor_id, $data) {
 
});
 
//註意,task進程完全是同步阻塞模式的
$server->on('Task', function ($server, $task_id, $src_worker_id, $data) {
    echo "task {$task_id} 進程正在工作...", PHP_EOL;
    $start = $data[0];
    $end = $data[1];
    $total = 0;
    for (; $start <= $end; $start++) {
        $total += $start;
    }
    echo "task {$task_id} 進程完成工作...", PHP_EOL;
    return $total;
});
 
$server->on('Finish', function ($server, $task_id, $data) {
    echo "task {$task_id} 進程處理完成, 結果為 {$data}", PHP_EOL;
});
 
$server->start();

註意,我們通過調用 task() 往任務池中投遞任務,swoole 底層會輪詢的投遞任務到各個 task 進程。

當你投遞任務的數量超過 onTask 的處理速度,這會導致任務池被塞滿,進而導致 worker 進程發生阻塞,所以需合理設置 task_worker_num 數量和處理速度之間的關係。

當然,我們也可以人為的把任務投遞到指定的 task 進程。task() 函數的第二個參數可以指定要投遞的 task 進程ID,ID範圍為 0 到 (task_worker_num - 1)。

 

五、對任務進行切分,人為控制投遞到 task 進程

<?php
 
$server = new swoole_server('0.0.0.0', 6666);
 
$server->set([
    'worker_num' => 1,
    'task_worker_num' => 10,
]);
 
$server->on('WorkerStart', function ($server, $worker_id) {
    //為了方便演示,把worker_num設置為1,這裡只會執行一次
    if (!$server->taskworker) {
        //通過swoole_table共用記憶體,在不同進程中共用數據
        $server->result = new swoole_table(10240);
        //用於保存task進程完成數量
        $server->result->column('finish_nums', swoole_table::TYPE_INT);
        //用於保存最終計算結果
        $server->result->column('result', swoole_table::TYPE_INT);
        $server->result->create();
        //計算1000的累加和,並把計算任務分配到10個task進程上
        $num = 1000;
        $step = $num / $server->setting['task_worker_num'];
        for ($ix = 0; $ix < $server->setting['task_worker_num']; $ix++) {
            $start = $ix * $step;
            $server->task([$start, $start + $step], $ix);
        }
    }
});
 
$server->on('Receive', function ($server, $fd, $reactor_id, $data) {
 
});
 
//註意,task進程完全是同步阻塞模式的
$server->on('Task', function ($server, $task_id, $src_worker_id, $data) {
    echo "task {$task_id} 進程正在工作... 計算 {$data[0]} - {$data[1]} ", PHP_EOL;
    $start = ++$data[0];
    $end = $data[1];
    $total = 0;
    for (; $start <= $end; $start++) {
        $total += $start;
    }
    echo "task {$task_id} 進程完成工作...", PHP_EOL;
    return $total;
});
 
$server->on('Finish', function ($server, $task_id, $data) {
    echo "task {$task_id} 進程處理完成, 結果為 {$data}", PHP_EOL;
    $server->result->incr('finish_nums', 'finish_nums');
    $server->result->set('result', ['result' => $data + $server->result->get('result', 'result')]);
 
    if ($server->result->get('finish_nums', 'finish_nums') == $server->setting['task_worker_num']) {
        echo "最終計算結果:{$server->result->get('result', 'result')}", PHP_EOL;
    }
});
 
$server->s
tart();

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 題目: 鏈接:https://www.nowcoder.com/questionTerminal/6736cc3ffd1444a4a0057dee89be789b?orderByHotValue來源:牛客網牛牛舉辦了一次編程比賽,參加比賽的有3*n個選手,每個選手都有一個水平值a_i.現在要將這些選 ...
  • 1 先談Finalize() finalize()能做的所有工作,使用try-finally或者其他方式都可以做得更好、更及時,所以筆者建議大家完全可以忘掉Java語言中有這個方法的存在。 ——《深入理解JVM》 finalize()方法確實可以實現一次對象的自救,但是其不確定性和昂貴的運行代價都表 ...
  • 通過前面2篇文章我們搭建了SW的基礎環境,監控了微服務,能瞭解所有服務的運行情況。但是當出現服務響應慢,介面耗時嚴重時我們需要立即定位到問題,這就需要我們今天的主角 監控告警,同時此篇也是SW系列的最後一篇。 UI參數 首先我們認識一下SW DashBoard上的幾個關鍵參數,如下圖所示 告警配置 ...
  • 一.docker簡介 1、docker定義:docker是一個用來裝應用的容器,就像杯子可以裝水,筆筒可以裝筆,書包可以放書一樣。你可以把“Hello World!”放到docker中,也可以把網站放到docker中,你可以把任何你想到的程式放到docker中。 2、docker思想: (1)集裝箱 ...
  • 智力題目有三個容積分別為3升、5升、8升的水桶,其中容積為8升的水桶中裝滿了水,容積為3升和容積為5升的水桶都是空的。三個水桶都沒有刻度,現在需要將大水桶中的8升水等分成兩份,每份都是4升水,附加條件是只能這三個水桶,不能藉助其他輔助容器。“恩,是的,這是一個很經典的問題。”“然而,我們並不能想全, ...
  • 今天,在Anaconda prompt啟動python遇到瞭如下錯誤: UnicodeDecodeError: ‘gbk’ codec can’t decode byte 0xaf in position 553: illegal multibyte sequence 看了看出錯跟蹤,查看瞭如下位置 ...
  • 許多小伙伴對於java中的三種初始化塊的執行順序一直感到頭疼,接下來我們就來分析一下這三種初始化塊到底是怎麼運行的。有些公司也會將這個問題作為筆試題目。 下麵通過一段代碼來看看創建對象時這麼初始化塊是如何運行的 package com.hxy; public class CodeBlock{ pub ...
  • 字元串或串(String)是由數字、字母、下劃線組成的一串字元。一般記為 s=“a1a2···an”(n>=0)。它是編程語言中表示文本的數據類型。在程式設計中,字元串(string)為符號或數值的一個連續序列,如符號串(一串字元)或二進位數字串(一串二進位數字)。 String類型你一定不陌生,畢 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...