開源二三事|ShardingSphere 與 Database Mesh 之間不得不說的那些事

来源:https://www.cnblogs.com/sphereex/archive/2022/06/27/16416207.html
-Advertisement-
Play Games

背景 前段時間,以 Apache ShardingSphere 核心團隊組建的創業公司 SphereEx,正式對外推出了 Database Mesh 2.0 概念以及與之相配套的開源產品 Pisanix,這引發了社區間對於 ShardingSphere 和 Database Mesh 的不少爭論與思 ...


背景

前段時間,以 Apache ShardingSphere 核心團隊組建的創業公司 SphereEx,正式對外推出了 Database Mesh 2.0 概念以及與之相配套的開源產品 Pisanix,這引發了社區間對於 ShardingSphere 和 Database Mesh 的不少爭論與思考。許多用戶都很清楚,SphereEx 是由 Apache ShardingSphere 核心團隊創立的。

那麼有部分用戶就提出了疑問,既然已經有了 Apache ShardingSphere 這樣一個如此成功的開源項目,為何還要大費周章選擇在一個全新的領域從頭開始?在雲原生趨勢的影響下,未來 ShardingSphere 會不會逐漸被併入到 Database Mesh 的理念體系中?

隨著 SphereEx 推出 Database Mesh 2.0 概念,並開闢了另一條開源發展路線,看似與此前已經大獲成功的 ShardingSphere 產生了衝突,但實際上,兩者是“同氣連枝、相輔相成”的關係。本篇將主要針對 ShardingSphere 社區用戶對於 Database Mesh 概念以及未來發展方向做出整體闡述,帶領大家從頭梳理 Apache ShardingSphere 的指導理念 Database Plus,以及與 Database Mesh 理念之間的脈絡聯繫

一、從微服務治理到雲原生資料庫服務治理,變在了哪?

相比於微服務,雲原生下的資料庫治理在功能選擇上會有不同的側重。

首先,資料庫是有狀態的,請求無法像服務一樣被隨意路由到對等節點,因此對於資料庫而言,數據分片是一個重要的能力;另外,由於資料庫連接本身具有狀態性,啟動或停止一個新的資料庫實例,往往意味著數據同步和複製,因此相較於微服務,實例自動發現能力的重要性就會降低。

如果將資料庫看作為一個微服務,雖然可以通過 Service Mesh 對資料庫訪問進行治理,但卻會受到許多限制。同時,資料庫擁有一些特殊治理屬性,比如通信協議、資源管理、基於數據請求的負載均衡、分庫分表、還有可觀測性、訪問控制等。這些都不能簡單地以服務的概念來理解和解決,而是屬於資料庫可靠性工程領域的問題。

這就為 Database Mesh 的發展提供了空間。SphereEx 提出的 Database Mesh 2.0 概念更關註在雲原生環境下,如何實現以下幾個目標:

  • 進一步減輕開發人員的心智負擔,提高開發效率,提供透明和無感的資料庫基礎設施使用體驗;

  • 以可配置、可插拔、可編程的方式,實現一個覆蓋資料庫流量、運行時資源和穩定性保障等方面的治理框架;

  • 為異構數據源、雲原生資料庫、分散式資料庫等多個資料庫領域的典型場景提供標準的使用界面。

提供數據分片、負載均衡、可觀測性、審計等能力,這些能力已經解決了資料庫治理中屬於流量治理的部分問題。更近一步地,當業務應用開始以容器的方式進行打包交付、利用 CI/CD 流水線每天發佈成百上千次到各個數據中心的 Kubernetes 基礎設施的時候,引發了對雲環境下如何實現資料庫可靠性工程的思考,Database Mesh 2.0 就是在這種思考之下的產物。

二、ShardingSphere 的指導理念 Database Plus,與 Database Mesh 之間的不同

首先,理念不同

其實,只看理論和概念,Database Mesh 與 Database Plus 之間還是有相當大差異的。

  • 關於 Database Mesh,SphereEx 認為雲上資料庫治理有共性也有其獨特性。對於共性問題可以通過標準化和自動化的方式加以解決,獨特性的可以通過提供一種靈活的擴展機制,讓工程師可以按需配置和實現因此需要通過可編程實現高性能擴展,應對雲上資料庫治理挑戰;

  • 而關於 Database Plus,Apache ShardingSphere 社區則認為這是一種分散式資料庫系統的設計理念,旨在碎片化的異構資料庫上層構建生態,在最大限度地復用資料庫原生存算能力的前提下,進一步提供面向全局的擴展和疊加計算能力。使應用和資料庫間的交互面向 Database Plus 構建的標準,從而屏蔽資料庫碎片化對上層業務帶來的差異化影響。

不過隨著資料庫上雲的趨勢不可避免,Database Mesh 與 Database Plus 這兩者之間難免會產生交集。在雲原生以及分散式資料庫的場景下,ShardingSphere 與 Database Mesh 之間將會產生更多的火花。

其次,應用場景不同

在 Database Plus 理念指導下的 ShardingSphere,主要被應用於分散式資料庫場景之中,Database Mesh 主要被用來指導雲原生場景下資料庫可靠性的具體實踐。作為兩個不同領域的不同設計哲學,Database Plus 和 Database Mesh 均代表了在各自數據治理場景中的科學理念,並且在科學理念的指導下,誕生了 ShardingSphere 和 Pisanix 這兩款開源實踐產品。

Database Mesh 2.0 希望提供一種以資料庫為中心的治理框架:

  • 資料庫是一等公民:一切抽象圍繞資料庫治理行為進行,比如訪問控制、流量治理、可觀測性等;

  • 面向工程師體驗:對於開發人員,通過便捷易用的資料庫聲明和定義,即可進行開發,無需關心資料庫的位置;對於運維和 DBA,提供多種資料庫治理行為抽象,實現自動化的資料庫可靠性工程;

  • 雲原生:以開放的生態和實現機制適配不同的雲環境,面向雲原生構建和實現,而無需擔心廠商鎖定。

而 Database Plus 則希望以『連接、增強、可插拔』為核心,在碎片化的異構資料庫上層構建計算生態。以解決本地架構選型困難、技術及運維複雜度高、資料庫上層標準缺失、資料庫間缺乏協作和統管能力等問題。

總而言之,Database Plus 理念下的實踐 Apache ShardingSphere,是面向於分散式資料庫場景下的具體實踐。而 Database Mesh 則是在雲原生場景下的,面向雲原生場景下資料庫治理難點的解決方案。

最後,業務場景與訴求所引發的轉型契機不同

從關係型資料庫到分散式資料庫,應用場景的不斷擴張,資料庫在不同場景下的優劣表現,均決定了企業應用資料庫的多元並存常態。碎片化是資料庫領域的大勢所趨,單一品類的資料庫無法適用於所有場景,只能適用於某一種或某幾種擅長的場景。而在業務場景的驅動下,採用分散式資料庫解決方案,已經成為應對大流量、高併發、緩解資料庫壓力的行業共識。

同樣由於場景驅動,在分散式資料庫風靡全球的這幾年中,雲計算也在充分發揮著自身的優勢與特性。雖然不能預測未來的發展和變化,但對於雲計算來說,隨著雲原生環境的成熟,天然產生於雲環境下的資料庫(即雲原生資料庫)越來越多,其不僅集中在各家雲廠商手中,市面上更是有越來越多產品涌現出來。

加之使用場景以及在不同的用戶視角里,開發人員更關註運行效率、成本開銷,以及資料庫協議類型和訪問信息,不關心數據存儲的位置。運維和 DBA 更關註資料庫服務的自動化、穩定性、安全性、監控報警等,此外 DBA 還會關心數據的變更、容量、安全訪問、備份、遷移等等。正是隨著對資料庫治理場景的深入理解和對用戶體驗的極致追求,共同催生了 Database Mesh 2.0 的核心思想:通過可編程實現高性能擴展,應對雲上資料庫治理挑戰。

三、當分散式成為共識、雲原生趨於繁榮:ShardingSphere 與雲之間會衝突嗎?

早在 Service Mesh 大行其道的 2018 年,Apache ShardingSphere PMC Chair 張亮就曾藉著 Service Mesh 的東風,創造性地提出了 Database Mesh 概念,設想是否有一種模式可以有效的結合 JDBC 代理端與 Proxy 客戶端的優點並屏蔽其缺點,藉助“彈性伸縮 + 零侵入 + 去中心,實現了一個真正的雲上基礎設施”,而當時設想中的 ShardingSphere Sidecar,正是 Database Mesh 1.0 階段的產物。

隨著迎來『分散式成為共識、雲原生趨於繁榮』的階段,作為一款由社區主導的開源項目,自然需要跟著業務、場景的變化而變化。ShardingSphere 也在這一條件下經歷了從 Sharding-JDBC 到 ShardingSphere 的轉變,不只是名稱的變化,更是 ShardingSphere 產品本身定位和技術生態領域的變化。

Pisanix 是用 Rust 和 Go 重寫的上雲版 ShardingSphere?

近期,SphereEx 對外開源了面向 Database Mesh 的解決方案 Pisanix。對於 Pisanix 面向資料庫流量的核心組件 Pisa-Proxy 而言,其與 ShardingSphere-Proxy 兩者的架構非常相似,粗略一看很容易將這兩者聯繫為重構的關係。

當然也不只是 Pisanix 與 ShardingSphere-Proxy,所有面向 MySQL 資料庫的代理的架構設計都大同小異。尤其是資料庫領域,存在著一定的同質化問題。不過對於產品而言,關鍵就是在其間尋找差異。對於 Pisanix 與 ShardingSphere-Proxy 而言,這兩者的區別在於在拿到數據後要實現怎樣的效果,解決用戶怎樣的問題。

因此,Pisanix 不能簡單的被認為是用 Rust 重寫的 ShardingSphere,兩者完全不同,只是在入口處比較像。對於資料庫領域而言,總歸是有相似點的。

另一方面,許多用戶會非常自然地將 Database Mesh 與 ShardingSphere-Sidecar 劃作等號。但其實這兩者在內核層面有很大不同,這也是區別兩者的最關鍵因素。目前,作為 Database Mesh 理念的實踐,Pisanix 已能夠承擔一部分原有 ShardingSphere-Sidecar 在雲原生環境下的數據治理能力方便用戶在雲上環境中使用 ShardingSphere

Pisanix 項目地址:https://github.com/database-mesh/pisanix

對於 Database Mesh 而言,Sidecar 並不是它的內核。Database Mesh 的內核一定是面向某個具體的、工程化的問題,Sidecar 只是 Database Mesh 概念其中的一種部署形式。有可能未來有一天 Pisanix-Proxy 就不是 Sidecar 的形式了,也有可能會演化成一個很薄的中間層。總而言之,Sidecar 只是實現治理能力的一個手段。

Database Mesh 真正的內核在於對用戶體驗、資料庫服務治理等層面的拓展。如果未來有更多資料庫類型的出現,有更多雲上雲下的場景出現,Database Mesh 的概念也會進一步實現擴展,這才是 Database Mesh 正在追求的方向。

Database Mesh 想做的是把各種雲上的因素屏蔽掉,統一將上層資料庫的各類行為治理起來。但不同資料庫的協議和運維特性是千差萬別的,困難就在於能否抽象出標準的治理行為。技術方案本身是多種選擇中的一種,最核心的部分是用戶體驗。至於選擇 Java 還是 Rust 或是 Python,都只是技術方案中的一部分,通過選擇合適的語言的來保持項目的生命力以及生態,這些都是必須要考慮的部分。

四、資料庫未來全景圖:ShardingSphere + Database Mesh +....

Database Mesh 可以治理 ShardingSphere 嗎?

如果把 ShardingSphere 看作為一個高性能的分散式資料庫,對於 Database Mesh 而言,治理 ShardingSphere 與治理 MySQL、TiDB 等資料庫都是一樣的。

因此儘管可以治理,但 ShardingSphere 本身並不額外需要其它理念的影響,因為對 ShardingSphere 的設計哲學 Database Plus 而言,是通過連接、增強、可插拔的特性將 MySQL 本身不具備的能力增強出來。這種增強是原生資料庫不具備的能力,而通過 ShardingSphere 則能夠與底層資料庫結合,將較強的計算能力以某種方式部署在應用端,變成一個高性能的分散式資料庫,避免資源浪費,提供相較於其它分散式資料庫更加高性價比的解決方案。

雲原生的場景下的機遇

接下來,讓我們把眼光著眼於行業。眾所眾知,雲是代表著未來,代表著不可逆的方向。因此,一個項目、一款產品、一個理念,能否服務於這個『不可逆』的未來,將直接影響到自己的生命周期與影響力。這也是 ShardingSphere 規划上雲、也一定會上雲的根本原因

在 Database Plus 理念的指導下,Apache ShardingSphere 可以在雲資料庫現有基礎上拓展更多功能,為企業、雲計算平臺提供更加強大的跨不同資料庫產品本身的能力,底層相容多個資料庫,相容雲端各類資料庫產品,研發側無需感知;另外,以保持雲中立的身份,確保雲端體驗與本地體驗相同,支持多雲架構,在不同雲的基礎設施下提供同樣的體驗,這正是 ShardingSphere 在雲原生場景下的機會與能力

作為兩款完全獨立的設計哲學,Database Plus 與 Database Mesh 之間並不是競爭關係。相反,Database Mesh 與 Database Plus 之間可以產生很好的化學反應。這兩者都是基於資料庫現有的碎片化生態、用戶所面臨的痛點來提供解決方案。儘管方向不同,但均代表了時下對於解決不同場景下數據治理難題的最佳思路。

目前 Database Mesh 官網 已上線,相應的規範定義也開源在( https://github.com/database-mesh/database-mesh )倉庫里。同時 Database Mesh 的具體實踐 Pisanix 也已開源,歡迎大家的關註。

項目地址:https://github.com/database-mesh/pisanix

官網地址:https://www.pisanix.io/

Database Mesh:https://www.database-mesh.io/

SphereEx 官網:https://www.sphere-ex.com


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一、前期準備 測試環境:VMware Workstation / centos8 1)增加一塊磁碟 2)查看新增磁碟(lsblk),發現沒找到新增的磁碟 3)解決查不到新增磁碟問題 重新掃描SCSI匯流排添加設備, $ echo "- - -" > /sys/class/scsi_host/host0 ...
  • 前提:關閉selinux和防火牆 SElinux: setenforce 0 vim /etc/selinux/config-->disabled 防火牆: firewall-cmd --set-default-zone=trusted iptables -F 1.下載安裝包: 使用yum info ...
  • Windows 10 啟動谷歌瀏覽器Chrome失敗(應用程式無法啟動,因為應用程式的並行配置不正確)解決方法 ...
  • 配置免密登錄伺服器及下載備份文件#!/bin/bash BACKUP=192.168.30.233 #一行寫一個IP BACKUP_PASSWD="lxzl_root*#2021" #root密碼 MYSQLBACKUP=192.168.30.232 #一行寫一個IP MYSQLBACKUP_PAS ...
  • 鏡像下載、功能變數名稱解析、時間同步請點擊 阿裡雲開源鏡像站 將網路上的文件下載到使用 Linux 操作系統的電腦上,需要用到 wget 指令,使用該指令可能會面臨兩個問題。 首先,如何獲取文件的下載 url?這需要你在瀏覽器上找到要下載文件的鏈接地址,然後右鍵 → 複製鏈接地址,既可獲取該文件的下載 u ...
  • 鏡像下載、功能變數名稱解析、時間同步請點擊 阿裡雲開源鏡像站 本地或遠程阿裡雲伺服器開啟redis服務(安裝redis過程省略) windows內打開cmd命令進入redis安裝目錄輸入redis-server.exe啟動或是直接雙擊文件夾內的redis-server.exe啟動 linux啟動命令僅需輸入 ...
  • 一、直播介紹 5月30日,袋鼠雲一站式全自動化運維管家ChengYing(承影)正式開源,我們深知將開源不是結束,而恰恰是開始,如何讓更多的小伙伴們更好的瞭解ChengYing、使用ChengYing、建設ChengYing,是開源項目團隊的同學一直在思考的問題。 為了更好的幫助大家瞭解ChengY ...
  • 學校需要將之前的生產資料庫備份到華為雲,之後實現每周自動備份 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...