倒帶ChunJun,同心前行|2022年度回顧&2023年共建規劃

来源:https://www.cnblogs.com/DTinsight/archive/2023/02/14/17119393.html
-Advertisement-
Play Games

ChunJun是一個開始於2018年的批流一體數據集成框架項目,原名FlinkX。2022年2月22日,在FlinkX進行初版開源的整整四年後,技術團隊決定對FlinkX進行整體升級,並更名為ChunJun,希望為大家真正提供一個穩定、高效、易用的批流一體的數據集成框架。 2022年的ChunJun ...


ChunJun是一個開始於2018年的批流一體數據集成框架項目,原名FlinkX。2022年2月22日,在FlinkX進行初版開源的整整四年後,技術團隊決定對FlinkX進行整體升級,並更名為ChunJun,希望為大家真正提供一個穩定、高效、易用的批流一體的數據集成框架

2022年的ChunJun茁壯成長,如今已經是一個由68多位貢獻者協同開發、擁有3437個star的人氣項目。

項目地址:https://github.com/DTStack/chunjun

ChunJun 項目進展

Star數:3437 Fork數:1556

Issue Closed:764 PR Cloesd:523

Contributors:68 Commits:5147

ChunJun 內容輸出

視頻課程:共計15課

涵蓋直播課程、入門指南、解決方案等方方面面

精品文章:共計18篇

帶你快速瞭解chunJun

技術社群:3898人

已成為大量開發者及大數據愛好者的交流學習平臺

ChunJun 獎項榮譽

入選Gitee最有價值開源項目——GVP

file

2022 ChunJun大事記

送虎歲,迎兔年,值此除舊迎新之際,想和一直以來關註ChunJun開源社區的朋友聊聊這一年的進展:

2022年2月22日

沉澱了團隊六年來在數據同步和集成方面的實踐經驗,技術團隊決定對FlinkX進行整體升級,並更名為ChunJun。希望為大家真正提供一個穩定、高效、易用的批流一體的數據集成框架

2022年5月28日

ChunJun社區第一次會議,討論當前第一個版本的roadmap規劃,首次邀請社區小伙伴一起參與討論。內容包括減少啟動參數,讓用戶快速啟動;增加 Docker 部分,用戶直接下載Docker 鏡像,開箱即用等。

2022年6月25日

開源小伙伴貢獻的官網內容正式發佈。

官網地址:https://dtstack.github.io/chunjun/

2022年7月9日

ChunJun社區第二次會議,討論當前第二個版本的roadmap規劃。

2022年9月18日

ChunJun社區第三次會議,討論當前第三個版本的roadmap規劃,調整 pr review & merge 規範和流程。

2022 ChunJun活動

2022年8月27日

聯合OceanBase社區主辦開源線下Meetup,發佈基於Oceanbase 的離線插件和cdc 插件,並推出聯合方案

file

2022年9月24日

參與Hadoop MeetUp,分享ChunJun在實時採集上的功能和新特性。

file

2022年10月29日

聯合舉辦 COSCon'22 開源年會杭州分會場,分享袋鼠雲三大組件 ChunJun、Taier、ChengYing 的配套使用構建。

file

2022 ChunJun精品課程

2022年4月27日

課程:ChunJun支持異構數據源DDL轉換與自動執行

視頻鏈接:https://sourl.cn/i9CzDP

2022年6月27日

課程:ChunJun數據還原-DDL功能模塊解析

視頻鏈接:https://sourl.cn/ffwtMc

2022年7月6日

課程:ChunJun同步Hive事務表

視頻鏈接:https://sourl.cn/fbaWgD

2022年8月19日

課程:ChunJun數據傳輸模塊介紹

視頻鏈接:https://sourl.cn/iLY7vn

2022年9月22日

課程:ChunJun類載入原理與實現

視頻鏈接:https://s.r.sn.cn/WCWURr

2022年12月9日

課程:ChunJun數據安全之Kerberos介紹

視頻鏈接:https://s.r.sn.cn/Nix84z

2022 ChunJun研發進展

共發佈七個版本:

V1.12.1

· 核心數據還原功能框架開發完成,增加了binlog/logminer 對 DDL 的監聽處理;

· 豐富插件,添加Doris 插件;

· 添加ChunJun 對 Flink python udf 的支持;

· 穩定性提升,修複ChunJun 20+ bug。

V1.12.2

· 豐富插件, 添加 inceptor插件;

· 豐富插件,添加 influxdb插件;

· 代碼優化,使用插件 spotless-plugins強制對代碼風格進行檢查;

· es 插件優化,支持 ssl模式;

· gbase 插件優化,支持 update模式;

· k8s 模式下添加對 application mode支持;

· 穩定性提升,修複ChunJun 10+ bug。

V1.12.3

· 豐富插件, 添加 starrocks插件;

· 增量同步支持 datetime類型;

· SQLserver cdc增加對數據類型 smallint的支持;

· 穩定性提升,修複ChunJun 10+ bug。

V1.12.4

· 豐富插件,添加 oceanbase插件;

· 數據還原功能加強,添加中間數據存儲,避免數據丟失;

· 項目名稱調整,從 FlinkX修改為 ChunJun;

· 插件優化,調整 inceptor插件的讀取方式,從原來的 jdbc調整為直接讀取文件;

· 插件優化,pg讀取插件支持 Array類型;

· 增加對 protobuffer format的支持;

· 穩定性提升,修複ChunJun 20+ bug。

V1.12.5

· 數據同步 jdbc分片優化,添加對 range mode的支持,原先只支持 mod模式分片;

· 易用性提升,添加內置提交腳本,在不同模式下任務提交需要傳入的參數,只需要傳遞 -job和 -confProp即可;

· ChunJun增加一個模塊,準備用於發佈安裝包;

· 穩定性提升,修複ChunJun 15+ bug。

V1.12.6

· 優化 ChunJun數據同步的序列化方式;

· ChunJun 添加新的官網,方便社區同學瞭解閱讀文檔及技術方案;

· 豐富插件, 添加 rocketmq、sybase、s3、vertica11、iceberg插件及 redis讀取插件;

· docker模式的支持,並添加執行腳本和文檔;

· jdbc 插件增強,添加在執行前檢查 dbconn;

· hbase 插件優化和重構,支持 transformer;

· ChunJun 工程支持E2E 功能;

· oracle 插件增強支持 nchar、nvarchar2 類型的中文存儲;

· 穩定性提升,修複ChunJun 30+ bug。

V1.12.7

· 優化 jdbc base模塊,添加對列信息的初始化功能

· 優化 ftp讀取性能,添加對大文件切片的支持;

· hdfs 插件優化,支持 hadoop3.x 版本 orc讀取;

· e2e 功能豐富,添加 ftp container;

· es7 插件優化,支持 type關鍵字;

· 穩定性提升,修複ChunJun 30+ bug。

2023年的ChunJun

ChunJun未來規劃

· 依賴 Flink版本升級到1.16;

· ChunJun 提供Rest api 的server 服務,簡化ChunJun 集成的難度;

· ChunJun 添加數據還原DDL支持Iceberg、Hudi。

兔年祝福

2022年,感謝 ChunJun社區小伙伴們的大力支持,ChunJun走的每一步都離不開你們的幫助,2023年,我們繼續交流,一起進步。

也祝福大家在新的一年裡兔飛猛進,快樂,幸福~

您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • Hyper-V添加內部NAT網路 使用powershell (管理員許可權)執行 1、創建虛擬交換機,等同於在Hyper-V管理器界面中新建虛擬網路交換機 <# 說明: New-VMSwitch 是創建虛擬交換機的指令 -SwitchName 是指定創建交換機的名字 "NAT-VM" 是交換機的名字 ...
  • 前段時間在測試一個連麥 demo,demo 簡要說可以在內網環境中運行時,輸入頻道號就可以模擬連麥 但是在加入連麥時,一直返回錯誤 -2 EOF,詢問得知,該錯誤的解釋信息是“Service Unavailable”,詢問伺服器的同學得知,他們那邊的伺服器並沒有收到連麥請求 使用 wireshark ...
  • 自己編譯的內核進行修改後為後續方便查詢是那個版本的系統。 所以每次更改內核後都需要修改一下版本信息, 又因為內核一般是不變的為了區分所以增加到擴展版本上。 操作環境: 硬體是全志 V3S Linux內核是3.4 修改的方法: 方法一: 一個在menuconfig中進行增加 打開menuconfig ...
  • Vim 簡介{#vim-簡介} Vim 是 Linux 系統上的最著名的文本/ 代碼編輯器,也是早年的 Vi編輯器的加強版,而 gVim 則是其 Windows 版。它的最大特色是完全使用鍵盤命令進行編輯,脫離了滑鼠操作雖然使得入門變得困難,但上手之後鍵盤流的各種巧妙組合操作卻能帶來極為大幅的效率提 ...
  • 原文地址: https://blog.fanscore.cn/a/51/ 背景 最近接到一個需求,開發中使用了redis georadius命令取附近給定距離內的點。完工後對服務進行壓測後發現georadius的性能比預期要差,因此我分析了georadius的源碼,並對原始的實現方案進行了優化,總結 ...
  • sql語氣查詢去重的兩種方法 以下兩種都可以進行去重查詢,區別是: 用distinct去重,只能查詢到去重的屬性那一列,無法查詢其他欄位 用group by分組查詢,可以根據需求查詢對應的其他欄位,推薦用group by 第一種:使用distinct(關鍵詞distinct用於返回唯一不同的值) s ...
  • 摘要:華為LakeFormation是企業級的一站式湖倉構建服務。 本文分享自華為雲社區《華為雲MRS支持LakeFormation能力,打造一站式湖倉,釋放數據價值】》,作者:breakDawn 。 1 背景 1.1 數倉和數據湖的概念 數據分析技術在2010~2019年間,以湖倉兩層架構技術作為 ...
  • 想必大家在版本更新迭代中,不免需要對資料庫表的欄位進行修改欄位類型或者長度的情況, 如果是修改存儲過程或者自定義函數, 那還是很好改的, 不用擔心表功能收到影響. 如果是改欄位呢? 首先要判斷欄位是不是已經在系統裡面, 沒有的話, 需要新增上去, 有的話, 需不需要修改? 其次, 腳本如果報錯, 是 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...