開源交流丨任務or實例 詳解大數據DAG調度系統Taier任務調度

来源:https://www.cnblogs.com/DTinsight/archive/2022/08/31/16642182.html
-Advertisement-
Play Games

課件獲取:關註公眾號 “數棧研習社”,後臺私信 “Taier” 獲得直播課件 視頻回放:點擊這裡 ChunJun 開源項目地址:github 丨 gitee 喜歡我們的項目給我們點個__ STAR!STAR!!STAR!!!(重要的事情說三遍)__ 技術交流釘釘 qun:30537511 前言 在分 ...


課件獲取:關註公眾號 “數棧研習社”,後臺私信 “Taier” 獲得直播課件

視頻回放:點擊這裡

ChunJun 開源項目地址:githubgitee 喜歡我們的項目給我們點個__ STAR!STAR!!STAR!!!(重要的事情說三遍)__

技術交流釘釘 qun:30537511

前言

在分享之前,先為大家介紹一下任務和實例的關係。任務指的是我們在任務開發界面上去創建的任務,比如Spark任務、SparkSQL任務、數據同步任務等,這些任務在開發過程中是靜態的腳本,當被提交到計算節點去執行時,被執行的過程我們把它抽象成實例。舉一個簡單的例子來說明:比如我們寫完一個Java的類然後把它打包成Jar包,其實這個Jar包就是一個靜態類,當我們執行Jar包時,這個過程我們會把它抽象成一個實例,這就是任務與實例的關係。

Taier實例生成

1、Taier實例類型

首先我們來看一下Taier實例的類型,在Taier中實例主要有3種類型:

  • 周期實例:T+1生成,完整依賴

  • 補數據實例:立即生成,局部依賴

  • 臨時運行實例:立即生成,無依賴

● 周期實例

周期實例是指在前一天生成的當天實例(T+1),擁有一個完整獨立的實例依賴體系,也就是任務和任務之間形成的完整的DAG圖。周期實例實際上指的是離線任務,因為實時任務並無上游依賴關係。

file

上圖就是配置任務之間依賴的地方,任務和任務之間會形成一個完整DAG(Direct Acyclic Graph)圖,中文名叫有向無環圖,從圖中任意一個節點出發,根據方向無法回到原節點的圖就叫做有向無環圖。

註意: 提交任務的時候回判斷是否成環。

而實例依賴可分為兩種:父子依賴關係和自依賴關係。

● 父子依賴關係

父子關係可以理解為不同的任務依賴:例如任務A運行需要任務B的運行結果,這個時候任務A就需要依賴任務B,那麼B任務就是A任務父任務。

● 自依賴關係

自依賴關係可以理解為相同任務的不同周期依賴:例如 任務A是一個小時任務,0點開始執行,10點結束,每小時運行一次,那麼任務A在0點合10點這個時間段上需要執行10次,如果說任務A每次執行都需要上一個周期執行結束,那麼任務A就是一個自依賴任務。

除了上述兩種依賴任務,還有跨周期依賴,不同周期任務的父子依賴關係:子任務會找到父任務最近的執行的一個周期實例依賴。

● 補數據實例

補數據實例是用戶通過頁面或者調用介面觸發生成實例,僅有局部的依賴關係且和周期實例的依賴關係相互獨立互不影響,實例依賴關係和周期實例一致。

註意:補數據是生成局部的DAG圖,例如 1、2、3任務關係是 1->2->3,在頁面上選擇1和3任務進行補數據,那麼1,2,3任務都會生成,但是最終結果只會運行1和3任務,2任務不運行。

file

● 臨時運行實例

臨時運行實例可以分成兩種離線和實時。

離線任務:用戶可以直接運行任務生成實例,實例沒有依賴關係。

實時任務:實時任務沒有周期,上下游依賴這一概念,所以所以的實時實例都是臨時運行的。

Taier周期實例生成

接下來我們來看一下Taier周期實例的生成。

file

上圖為Taier實例的整體生成圖,Taier主節點在啟動的時候會開啟一個定時器,定時器會不停的去判斷當日的實例是否已經生成,如果沒有生成就會觸發事件給CycleJobBuilder生成實例,再通過JobDependency封裝實例之間的依賴關係。

其中CycleJobBuilder是指用於生成周期實例,掃描數據

庫任務表並且獲取zk上所有的taier節點,把封裝後的實

例分配到每一臺Taier節點上;JobDependency是用於生成job之間的依賴關係。

接下來為大家介紹下Taier的主從選舉。

在application.properties文件中配置zk:

nodeZkAddress=${ZK_HOST}

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • linux 內核記憶體屏障 By: David Howells [email protected] Paul E. McKenney [email protected] Will Deacon [email protected] Peter Zijlstra peterz@infrad ...
  • Mac電腦系統如何維護?System Toolkit是一款非常不錯的Mac系統維護工具,使用System Toolkit Mac版,你可以隨時檢索最新的技術數據,例如進程負載,CPU溫度,主記憶體消耗,存儲空間,磁碟活動,網路介面上的通信等,你還可以用它刪除無需的應用程式和垃圾文件,保存電腦的良好運行 ...
  • 協程不是操作系統的底層特性,系統感知不到它的存在。它運行線上程裡面,通過分時復用線程的方式運行,不會增加線程的數量。協程也有上下文切換,但是不會切換到內核態去,比線程切換的開銷要小很多。每個協程的體積比線程要小得多,一個線程可以容納數量相當可觀的協程。在IO密集型的任務中有著大量的阻塞等待過程,協程... ...
  • Remote Desktop Manager for Mac是目前網路上最優秀的一款遠程桌面管理工具,remote desktop manager mac界面簡潔、操作簡單、功能強大,可以非常方便地管理你的web伺服器、ftp伺服器等,並支持保存多個遠程桌面連接、多個ftp連接,甚至是vpn連接,為 ...
  • DKOM 即直接內核對象操作,我們所有的操作都會被系統記錄在記憶體中,而驅動進程隱藏就是操作進程的EPROCESS結構與線程的ETHREAD結構、鏈表,要實現進程的隱藏我們只需要將某個進程中的信息,在系統EPROCESS鏈表中摘除即可實現進程隱藏。 ...
  • 今天我會進行StoneDB資料庫在Ubuntu 22.04系統下的安裝。 嚴格按照官方文檔的步驟執行,看看能否順利安裝。 準備Ubuntu系統 我已在虛擬機中安裝好了Ubuntu 22.04版本的系統,按照常規操作,先把系統更新到最新。然後執行後面的安裝步驟。 在Ubuntu系統中安裝StoneDB ...
  • 一、直播介紹 之前的內容,我們為大家分享了ChengYing入門介紹,以及ChengYing部署Hadoop集群實戰,本期我們為大家分享ChengYing安裝原理。 本次直播我們將詳細介紹ChengYing安裝原理及卸載原理,以及其中會遇到的常見問題剖析,通過本次分享,希望大家能對ChengYing ...
  • 資料庫CPU使用率100%報警頻繁起來。第一個想到的就是慢Sql,我們對未合理運用索引的表加入索引後,問題依然沒有得到解決,深入排查時,發現在 order by id asc limit n時,即使where條件已經包含了覆蓋索引,優化器還是選擇了錯誤的索引導致。 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...