3.2.0 版本預告!遠程日誌解決 Worker 故障獲取不到日誌的問題

来源:https://www.cnblogs.com/DolphinScheduler/archive/2023/08/17/17638359.html
-Advertisement-
Play Games

![file](https://img2023.cnblogs.com/other/2685289/202308/2685289-20230817174410327-1799604230.png) Apache DolphinScheduler 3.2.0 版本已經呼之欲出,8 月 中下旬,這個大版 ...


file

Apache DolphinScheduler 3.2.0 版本已經呼之欲出,8 月 中下旬,這個大版本就要和用戶見面了。為了讓大家提前瞭解到此版本更新的主要內容,我們已經製作了幾期視頻和內容做了大致介紹,包括《重磅預告!Apache DolphinScheduler 3.2.0 新功能“劇透”》《3.2.0 版本預告!Apache DolphinScheduler API 增強相關功能》

今天,我們來介紹另一個用戶比較關心的新功能——Remote logging(遠程日誌),看看是否能幫助你的工作變得更簡單吧!

https://www.bilibili.com/video/BV1U14y1q74N/?spm_id_from=333.999.0.0

今天由為大家介紹 Apache DolphinScheduler 3.2.0 的一個新特性,叫做 Remote logging。我們會從三個部分來說明這個功能,第一,它是什麼,解決什麼問題;第二,它如何配置;第三,我們怎麼去使用它?

遠程日誌是什麼?解決什麼問題?

在沒有這個功能之前,我們的任務日誌流向是這樣子的,任務運行完的時候,Worker 會將日誌寫到 Worker 本地,當用戶需要去查看任務日誌的時候,我們會發送請求這個 Worker 的日誌,然後展示給用戶。當一些意外情況出現,導致這個 Worker 的日誌不存在,或者是這個 Worker 不存在的時候,用戶在頁面上就看不了日誌了。

但是有了 Remote Logging,這個問題就能得到比較好的解決。它整體的流程如下所示:

file

我們只是增加了這條線的部分以及下麵 Remote Logging 的部分,當我們的 Worker 將日誌寫到本地的時候,會有個非同步線程將寫到本地的 log 同步到 Remote Logging。當一些意外情況發生導致日誌丟失,但用戶想要看日誌詳細信息的時候,我們會有個請求將日誌從遠端拉到本地,然後本地返回。

為什麼我們要設置這樣一個動作呢?這樣做首先能保證介面的一致性,就是日誌全部都是從 Worker 發送給 API Server,然後去讀取的。其次是儘量減少我們遠端的帶寬,只有當本地日誌缺失的時候,我們才會去下載遠端的日誌。

如何配置?

接下來我們快速說明一下如何配置 Remote Logging。在我們的發版文件里會有關於如何啟動和配置的簡單介紹。

首先,我們要修改 Common Properties 文件,將這個 remote.logging.enable 設置存儲並且設置為你想要存儲的遠端存儲介質。目前我們支持了 OSS、S3 和 GCS。

其次就是一些第三方遠端存儲的配置,比如 AccessKey、Secret 以及對應的 bucket 和 region 等。

如何使用?

我們回到頁面,體驗一下 Remote Logging 是如何使用,以及我們是如何判斷它是生效的。

我們這裡有一個簡單的工作流,它只有兩個任務,分別列印了 1 和 2 這兩個信息。手動觸發這個工作流並觀察日誌,看看它是否正常地被寫到遠端。

當我們觸發了工作流運行,並且工作流是運行成功的,我們將日誌寫到遠端。當任務被運行成功的時候,我們就開始寫日誌了。

這一行就能很明顯地看到,日誌被寫成功之後,會同時有一個非同步線程將日誌同步到遠端的存儲。

因為我們這裡使用的是 S3,它將本地的路徑的日誌同步了一份到遠端。回到 S3 的頁面,可以看到 log 已經存在了。

接著我們模擬一下當本地 Worker 的日誌缺失的時候,我們如何去讀日誌。 我們手動將這個日誌文件刪除,可以看到這個文件夾下麵有兩個日誌文件,分別是 3 和 4。將這兩個文件都刪除,可以看到這裡已經沒有對應的日誌文件了。

此時,如果是之前的版本,我們已經不能查看最新的 instance 的日誌文件了,但是有了 Remote Logging,就會發現本地不存在這個日誌,將日誌從遠端下載到本地給用戶查看。

模擬一下,這裡我們點擊查看任務日誌,會發現任務日誌已經被顯示出來了。再去查看一下本地文件,會發現剛剛不存在的日誌已經下載下來了,並且只下載了我們需要的那一個。

接下來看看另一個任務的日誌,同樣發現是能被顯示的,本地的兩個日誌文件也被下載下來了。查看服務日誌,我們發現它已經檢測到日誌文件不在本地出現,會去遠端獲取這個日誌文件。

這就是 Remote Logging 功能的大致介紹,如果它能解決你的問題,歡迎在 8 月中下旬發佈 3.2.0 版本的時候,升級版本來體驗一下!

本文由 白鯨開源 提供發佈支持!


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • ## 一、什麼是結果過濾器? 結果過濾器(**ResultFilter**),是對執行的Action結果進行處理的一種AOP思想,適用於任何需要直接環繞 View 或格式化處理的邏輯。結果過濾器可以**替換或更改 Action 結果**。在 IActionResult 執行的前後執行,使用它能夠控制 ...
  • <div class="van-cell van-field"> <div class="van-cell__title van-field__label">頭像:</div> <div class="van-cell__value van-field__value"> <div class="va ...
  • Windows服務是在Windows操作系統上,以後臺形式運行的應用程式。最近在公司要求使用Windows服務作為消息隊列的消費端,所以自行研究了一下C#中Windows服務如何創建以及如何使用,以及部署的方式。 ...
  • 哈嘍大家好,我是鹹魚 之前鹹魚在《[Linux 網路收包流程](https://mp.weixin.qq.com/s?__biz=MzkzNzI1MzE2Mw==&mid=2247486122&idx=1&sn=df659a7458028772c9595e98d5cefbc1&chksm=c2930 ...
  • # 一.安裝環境 ## 1.操作系統 **CentOS-7.6-x86_64-DVD-1810.iso** **Root用戶!!!** ## 2.虛擬機設置 ![image](https://img2023.cnblogs.com/blog/2840133/202308/2840133-202308 ...
  • 流量限制模下載和安裝 安裝完成後,可以在IIS管理工具里點擊“Bit Rate Throttling”節點。 根據你的文件及類型配置流量限制規則: 以下白皮書是更多的一些幫助和內容: Bit Rate Throttling Module Setup Bit Rate Throttling Confi ...
  • ![](https://img2023.cnblogs.com/blog/3076680/202308/3076680-20230816163336851-1607680900.png) # 1. 資料庫 ## 1.1. 一組相關信息 ## 1.2. 電話簿肯定是最為普及且常用的資料庫 # 2. 非 ...
  • # mysql代理、中間件技術 ## 代理簡介 **名詞** DB proxy 資料庫中間件 **功能** 讀寫分離:讀寫分離導致處理速度迅速,一般情況下是主伺服器進行寫操作而從伺服器進行讀操作 負載均衡 支持數據的分片自動路由和聚合 **本文主要圍繞Mycat實現、且在完成MM-SS集群的條件下* ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...