課件獲取:關註公眾號 “數棧研習社”,後臺私信 “Taier” 獲得直播課件 視頻回放:點擊這裡 ChunJun 開源項目地址:github 丨 gitee 喜歡我們的項目給我們點個__ STAR!STAR!!STAR!!!(重要的事情說三遍)__ 技術交流釘釘 qun:30537511 前言 在分 ...
課件獲取:關註公眾號 “數棧研習社”,後臺私信 “Taier” 獲得直播課件
視頻回放:點擊這裡
ChunJun 開源項目地址:github 丨 gitee 喜歡我們的項目給我們點個__ STAR!STAR!!STAR!!!(重要的事情說三遍)__
技術交流釘釘 qun:30537511
前言
在分享之前,先為大家介紹一下任務和實例的關係。任務指的是我們在任務開發界面上去創建的任務,比如Spark任務、SparkSQL任務、數據同步任務等,這些任務在開發過程中是靜態的腳本,當被提交到計算節點去執行時,被執行的過程我們把它抽象成實例。舉一個簡單的例子來說明:比如我們寫完一個Java的類然後把它打包成Jar包,其實這個Jar包就是一個靜態類,當我們執行Jar包時,這個過程我們會把它抽象成一個實例,這就是任務與實例的關係。
Taier實例生成
1、Taier實例類型
首先我們來看一下Taier實例的類型,在Taier中實例主要有3種類型:
-
周期實例:T+1生成,完整依賴
-
補數據實例:立即生成,局部依賴
-
臨時運行實例:立即生成,無依賴
● 周期實例
周期實例是指在前一天生成的當天實例(T+1),擁有一個完整獨立的實例依賴體系,也就是任務和任務之間形成的完整的DAG圖。周期實例實際上指的是離線任務,因為實時任務並無上游依賴關係。
上圖就是配置任務之間依賴的地方,任務和任務之間會形成一個完整DAG(Direct Acyclic Graph)圖,中文名叫有向無環圖,從圖中任意一個節點出發,根據方向無法回到原節點的圖就叫做有向無環圖。
註意: 提交任務的時候回判斷是否成環。
而實例依賴可分為兩種:父子依賴關係和自依賴關係。
● 父子依賴關係
父子關係可以理解為不同的任務依賴:例如任務A運行需要任務B的運行結果,這個時候任務A就需要依賴任務B,那麼B任務就是A任務父任務。
● 自依賴關係
自依賴關係可以理解為相同任務的不同周期依賴:例如 任務A是一個小時任務,0點開始執行,10點結束,每小時運行一次,那麼任務A在0點合10點這個時間段上需要執行10次,如果說任務A每次執行都需要上一個周期執行結束,那麼任務A就是一個自依賴任務。
除了上述兩種依賴任務,還有跨周期依賴,不同周期任務的父子依賴關係:子任務會找到父任務最近的執行的一個周期實例依賴。
● 補數據實例
補數據實例是用戶通過頁面或者調用介面觸發生成實例,僅有局部的依賴關係且和周期實例的依賴關係相互獨立互不影響,實例依賴關係和周期實例一致。
註意:補數據是生成局部的DAG圖,例如 1、2、3任務關係是 1->2->3,在頁面上選擇1和3任務進行補數據,那麼1,2,3任務都會生成,但是最終結果只會運行1和3任務,2任務不運行。
● 臨時運行實例
臨時運行實例可以分成兩種離線和實時。
離線任務:用戶可以直接運行任務生成實例,實例沒有依賴關係。
實時任務:實時任務沒有周期,上下游依賴這一概念,所以所以的實時實例都是臨時運行的。
Taier周期實例生成
接下來我們來看一下Taier周期實例的生成。
上圖為Taier實例的整體生成圖,Taier主節點在啟動的時候會開啟一個定時器,定時器會不停的去判斷當日的實例是否已經生成,如果沒有生成就會觸發事件給CycleJobBuilder生成實例,再通過JobDependency封裝實例之間的依賴關係。
其中CycleJobBuilder是指用於生成周期實例,掃描數據
庫任務表並且獲取zk上所有的taier節點,把封裝後的實
例分配到每一臺Taier節點上;JobDependency是用於生成job之間的依賴關係。
接下來為大家介紹下Taier的主從選舉。
在application.properties文件中配置zk:
nodeZkAddress=${ZK_HOST}