重磅預告!Apache DolphinScheduler 3.2.0 新功能“劇透”

来源:https://www.cnblogs.com/DolphinScheduler/archive/2023/07/13/17551698.html
-Advertisement-
Play Games

![file](https://img2023.cnblogs.com/other/2685289/202307/2685289-20230713175218878-1267873030.png) 近期,Apache DolphinScheduler 將迎來 3.2.0 版本的到來。本次發版為大版本 ...


file

近期,Apache DolphinScheduler 將迎來 3.2.0 版本的到來。本次發版為大版本發佈,將會帶來眾多大家期待已久的新功能和新改進。為了讓用戶提前感知到新版本的變化,社區特意提前“劇透”新版本的重要 feature,並製作了視頻進行介紹。

添加預設租戶

在之前的版本中,用戶部署完畢後必須手動添加租戶。3.2.0 版本中添加了預設租戶,方便大家更直接地使用 Apache DolphinScheduler。

新增多種數據源

新增了多個數據源,如 Snowflake、Databend、Kyuubi、OceanBase、Dameng、AzureSQL、StarRocks、AWS Athena,並且更新了部分數據源,如 Redshift 增加 Access key。

新增任務類型

新增了多個任務類型,如

  • 通用模塊中,增加 Remote-shell 組件
    • Cloud 模塊中,新增 Amazon DMS、Azure Datafactory,增強與各種雲的互聯互通
    • 機器學習模塊中,新增 Kubeflow 組件(基於雲原生構建的機器學習任務工具大合集)
    • 其他模塊中,增加 Amazon Datasync、Apache Linkis
  • 更新了部分任務,如 DataX 支持 Presto,http任務增加output 參數傳遞,運行批量同時 kill 多個 Yarn 任務
  • Dependent 支持依賴自己
  • Zeppelin 鑒權
  • 任務支持了緩存
  • Sqoop 日誌支持隱藏密碼
  • SQL 任務支持預設切割符

重跑任務時指定工作流向前、向後運行

之前在任務執行失敗後,用戶只能通過工作流重跑。新版本中,我們可以指定當前工作流向前、向後執行,更加靈活地對失敗後的任務進行處理。

遠程日誌

增加了遠程日誌功能,並同時支持了 Google Cloud Storage、Amazon S3、阿裡雲 OSS 日誌存儲,大家可以通過編輯配置文件,把日誌存儲到雲端。

參數

  • 調整參數優先順序,啟動參數最高。
  • 增加了內置參數計算規則
  • 增加了文件類型的參數

資源中心

  • 增加了Alibaba Cloud OSS的支持,重構資源中心並設計預設使用本地作為存儲介質,重新支持了 re-upload。
  • 資源中心容許覆蓋上傳,優化文件路徑,顯示文件的全部路徑。另外,之前版本中資源中心已經上傳的同類型文件只能刪除後重新上傳,新版本中對本功能進行了優化,可以點擊上傳按鈕進行上傳。

增強頁面易用性

  • 增加頁面易用性和便利性,如增加 workflow instance 跳轉到當前工作流、複製工作流名稱、調整列寬等操作
  • 預設情況下會有 default 租戶和本地資源中心,安裝後就能使用
  • 允許在 workflow instance 中重新運行任務,更加明確的任務運行日誌
  • json 導出可閱讀性更強

雲原生相關

  • 支持 KEDA 做 worker 自動擴縮容
  • 支持 Terraform 部署到 AWS
  • zk 和 pg 支持多架構
  • 提交 spark 任務到 Kubernetes
  • 獲取 pod 實時日誌
  • 自定義 k8s 任務標簽

API

  • 增加了部分 Restful API,包括 taskInstance、workflow state、workflowInstance、workflow and schedule、task relation
  • API 觸發工作流運行可以獲得instance ID

註冊中心

增加 ETCD、JDBC 註冊中心

架構

  • Alert 支持 HA
  • 單線程更新 Kerberos
  • Worker server 移除了 dao 依賴
  • 接管 task instance 失敗的任務
  • 增加動態任務組配置
  • 重構了邏輯任務和遠程命令
  • 資源限制(cpu 記憶體)從原來絕對值改成百分比
  • 支持了 SSO

3.2.0 正式版本發佈流程正在準備中,敬請關註官網和 GitHub,獲取最新消息!

本文由 白鯨開源 提供發佈支持!


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • JWT簡介 是一種身份認證的開放標準(RFC 7519),可以在網路應用間傳輸信息作為Json對象。由三部分組成:頭部(Header)、載荷(payload)和簽名(Signature). 頭部(Header) 兩部分組成,令牌類型和所使用的的簽名演算法 { "alg":"HS256", "typ": ...
  • 基本概念 是一種用於非同步編程的概念。Task的重要特點是可以在後臺執行方法或操作,而不會阻塞主線程或UI線程。 封裝的非同步操作,表示執行的操作正在進行。可以表示一個方法的返回值或者表示執行的操作已經完成。 Task類的主要成員 屬性:TaskStatus、IsCanceled、IsCompleted ...
  • ## 引言 最近做一個配置的功能,需求是該配置項跟另一個整形配置項關聯,具有一定的函數關係,例如有一個配置項是值為 `N` ,則另一配置 `F` 項滿足函數關係$F=2/(N+1)$。這個函數關係是客戶手動輸入,只需要簡單的四則運算,所以我們要做的就是判斷四則運算表達式是否有效,且給定 `N` 的值 ...
  • 之前在Windows上用過一款圓盤菜單工具Quicker, 感覺非常方便, 換成Macos後,一直沒有找到類似應用。 最近終於發現,一款好用的快捷鍵收集,觸發工具Radial Menu. 其核心功能是可以根據當前程式的上下文,彈出一個圓盤菜單。 執行圓盤中的動作。 目前菜單動作還僅支持快捷鍵,預計後 ...
  • 今天檢查前同事留下的一個shell腳本時,其中一個腳本中有一個業務邏輯處理:要判斷Oracle資料庫實例是否啟動,如果資料庫實例處於OPEN狀態的話,則執行/運行一些業務邏輯操作。腳本大體如下(腳本做了一下混淆和精簡收縮) up_flag=`${SCRIPT_DIR}/chkdbup.sh ${OR ...
  • 本文介紹在**Windows 10**操作系統中,進行**用戶變數**、**系統變數**等兩種**環境變數**的新建、修改與刪除的詳細方法。 在很多時候,我們需要對**Windows**電腦的**環境變數**加以修改,例如安裝一些專業軟體、配置一些代碼環境等等;這裡就具體介紹一下這一操作的方法。 首 ...
  • # 一、Python學習兩大道具 ## 1. dir()工具 - 作用:支持打開package,看到裡面的工具函數 - 示例: (1) 輸出torch庫包含的函數 ```python dir(torch) ``` (2) 輸出torch.AVG函數中的參數 ```python dir(torch.A ...
  • 博客推行版本更新,成果積累制度,已經寫過的博客還會再次更新,不斷地琢磨,高質量高數量都是要追求的,工匠精神是學習必不可少的精神。因此,大家有何建議歡迎在評論區踴躍發言,你們的支持是我最大的動力,你們敢投,我就敢肝 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...