資料庫國產化替代之後,補坑之路從未止步……

来源:https://www.cnblogs.com/88223100/archive/2022/12/13/After-the-localization-and-substitution-of-databases-the-road-to-patching-up-pits-has-never-stopped.html
-Advertisement-
Play Games

"天底下沒有完美的資料庫,也許Oracle是個例外”,前陣子幾個DBA在討論國產化替代時,有人就這麼說。確實是的,Oracle算是比較完美的資料庫產品了,不過現在很多用戶都在面臨從Oracle資料庫向其他資料庫遷移的問題。中國電信已經宣佈了今年年底前全線下架Oracle資料庫,全部用國產或者開源數據... ...


 

 

“天底下沒有完美的資料庫,也許Oracle是個例外”,前陣子幾個DBA在討論國產化替代時,有人就這麼說。確實是的,Oracle算是比較完美的資料庫產品了,不過現在很多用戶都在面臨從Oracle資料庫向其他資料庫遷移的問題。中國電信已經宣佈了今年年底前全線下架Oracle資料庫,全部用國產或者開源資料庫替代。本周和中國電信的朋友交流的時候,他們說已經完成了數百套系統從Oracle資料庫的遷移,最晚到8月份,這個任務就能夠完成了。

 

還有些企業怕遇到坑,因此還在不斷地研究、認證、測試、分析中。事實上,在做出決策之前多一分小心還是十分必要的。10年前電信提出用開源資料庫替代Oracle的時候,針對MYSQL和PG做了一番分析,我也參與了其中的一些工作,通過對當時的MYSQL和PG進行對比,我們最終的分析結果是:如果要遷移計費、賬務系統,MYSQL優於PG。當然這個分析並不是說MYSQL就全面碾壓PG,而只是針對計費、賬務這樣的系統場景,PG的膨脹與VACUUM會對系統穩定運行造成較大的影響,相對而言風險更大。

 

其實我們也沒辦法看得太遠,哪怕是選擇好的資料庫,在遷移過程中,甚至遷移完成後的長期運行過程中,還是會遇到很多坑。有些問題可能是資料庫基礎架構從娘胎裡帶來的,無法馬上解決的問題。如果你的應用對這樣的問題十分敏感,不解決會引發大問題,那樣就十分悲慘了。

 

昨天剛剛上班就有一個客戶遇到國產資料庫的問題,他們有一條SQL執行十分頻繁,總體開銷很大,希望通過index only scan來降低開銷,不過創建了索引之後,執行計劃依然不走index only scan,還是要走需要回表的執行計劃。我以前也沒有遇到過這類的問題,正好這個國產資料庫是基於opengauss 2.0的,我們的測試環境中有opengauss 2.0和3.0的環境。於是我就先在opengauss 2.0的環境中做了一個測試。實際上openGauss是不支持Covering index的,在openGauss 2.0上,我們創建Covering index的時候會報錯:

 

 

openGauss2.0是不支持這個語法的,openGauss3.0也類似,只不過錯誤信息有所變化:

 

在openGauss3.0中,針對ustore的表是支持covering index的,而針對預設的和PG相容的ASTORE是不支持的。於是我們做了些變更,創建了一個測試用例。

drop table test_covering ;
create table test_covering (id serial,name text,val int);
create index idx_test_covering on test_covering(id,val);
insert into test_covering(name,val) select 'test'||generate_series(1,10000),(random()*100)::int%100;
analyze test_covering;
update test_covering set val=val+1;
select relallvisible from pg_class where relname='test_covering';
explain  (analyze true,buffers true) select val from test_covering where id>=10 and id<100;
vacuum test_covering;
select relallvisible from pg_class where relname='test_covering';
explain  (analyze true,buffers true) select val from test_covering where id>=10 and id<100;

從執行計划上看,確實沒有採用Index Only Scan的執行計劃。openGauss是基於PG 9.2.4開發的,難道這是PG早期的BUG嗎?按理說PG的COVERING INDEX就是為了讓SQL可以使用Index only scan的。於是我立即在openGauss 3.0上測試了一下。

 

 在openGauss 3.0上,我並沒有看到預期的Index Only Scan的執行計劃。於是我在網上和一個朋友交流了這個問題,他正好對此有過研究,立即就指出了這是一個visibility map的問題,PG 8.4為了支持MVCC,引入了visibility map。不過VM文件並不是實時更新的,因此如果PAGE在VM中是不可見狀態時,就必須做回表操作,因為索引中並不存在數據行可見性的標識數據,因此不能使用Index Only Scan。為了進一步確認這個問題,我在一個社區版的PG 11上做了一個測試。

drop table test_covering ;
create table test_covering (id serial,name text,val int);
create index idx_test_covering on test_covering(id) include(val);
insert into test_covering(name,val) select 'test'||generate_series(1,10000),(random()*100)::int%100;
analyze test_covering;
update test_covering set val=val+1;
select relallvisible from pg_class where relname='test_covering';
select relallvisible from pg_class where relname='test_covering';
explain  (analyze true,buffers true) select val from test_covering where id>=10 and id<100;
vacuum test_covering;
select relallvisible from pg_class where relname='test_covering';
explain  (analyze true,buffers true) select val from test_covering where id>=10 and id<100;

 

 

我們在PG 11上看到了預期的執行計劃,因為PG的數據行的可視性信息僅僅存儲於表數據中,而索引中沒有這個信息,因此在做Index Only Scan的時候,如果VM沒有及時更新,就必須回表才能獲得準確的信息了。在VACUUM前執行的查詢中,HEAP FETCHES是180,說明雖然執行計劃是Index Only Scan,不過有180條數據是回表操作了。

 

當VM里已經更新了PAGE的信息,那麼這些PAGE上的記錄就不需要“回表操作”了,因此VACUUM後VM得到了更新,此時HEAP FETCHES變成0了,說明沒有任何回表操作。因為VM文件的大小遠遠小於數據表的文件,因此不回表會降低執行成本。從上面的例子我們也可以看出,不回表執行0.037毫秒,回表執行0.203毫秒,差異還是挺大的。

 

在PG 11上只要做了表分析,那麼起碼執行計劃是Index Only Scan的,為什麼openGauss上執行計劃也不選擇Index Only Scan呢?剛纔我們測試openGauss的時候因為不支持Covering Index的問題,對SQL做了改寫。改寫後的SQL在PG 11上是什麼樣的呢?

 

 

我們發現,如果索引變成了普通的索引之後,在PG上的執行計劃也和openGauss一樣了。

 

 

 

不過如果我們做一個vacuum,執行計劃就變得正確了,而且也不存在“回表”的問題了。從這個測試我們再聯想一下openGauss,openGauss資料庫的CBO優化器是不是認為因為VM比較舊,這個查詢需要回表,所以不選擇Index Only Scan的執行計劃呢?

 

 

 於是我們也在openGauss上做了VACUUM,不過VACUUM完成後,可視的PAGE數量還是0,執行計劃也還是沒有發生改變。過了一段時間後,發現可見頁的數量不為零了,於是再次分析執行計劃,發現執行計劃已經變成了Index Only Scan。

 

 

openGauss的文檔上對於VM文件更新的問題並未做出說明,因為我們也只能猜測openGauss的vacuum命令並不更新VM文件,VM文件的更新可能是由其他機制來完成的。因為這個問題的存在,因此openGauss在ASTORE上不支持Covering Index,以防止創建了這樣的索引,大部分情況下,Index Only Scan的執行計劃也不可用。不過我們在openGauss的相關文檔上並未找到這方面的說明。

 

我們利用openGauss 3.0的USTORE功能,做了最後一個實驗,因為剛纔我們看到openGauss在USTORE上是支持covering index的,是不是用Ustore可以解決這個問題呢?

rop table test_covering ;
create table test_covering (id serial,name text,val int)  with (STORAGE_TYPE=USTORE) ;
create index idx_test_covering on test_covering using ubtree(id) include(val) ;
insert into test_covering(name,val) select 'test'||generate_series(1,10000),(random()*100)::int%100;
explain  (analyze true,buffers true) select val from test_covering where id>=10 and id<100;
analyze test_covering;
update test_covering set val=val+1;
explain  (analyze true,buffers true) select val from test_covering where id>=10 and id<100;

 

 

和我們預想的一樣,在USTORE上不需要VM的情況下,優化器正確地選擇了Index Only Scan。似乎在opengauss上使用USTORE可以完美解決這個問題。不過目前USTORE還不夠成熟。在USTORE上也存在不少坑,比如說官方文檔中沒有提及的USTORE表不支持回收站的問題,以及USTORE上以前我們遇到的一些性能問題。從openGauss僅在USTORE上支持covering index上,我們也可以看出華為openGauss在VM方面可能存在一些問題。就像我們測試中發現,哪怕做vacuum,也不能馬上更新VM數據。不能及時更新VM,會導致SQL語句的回表操作增加,導致covering index的初衷無法實現。

 

資料庫使用過程中難免會遇到坑,在使用“完美的資料庫”-Oracle的時候我們不也經常遇到BUG嗎。遇到坑並不怕,怕的是遇到坑之後我們無法找到解決方案,也不知道這個坑到底是怎麼回事。國產資料庫並不只是在功能與性能上存在差距的問題,更大的問題可能是在今後的長期維護上,運維知識、運維專家、運維工具的缺失可能會更大地影響國產資料庫的發展。

 

不過不管如何,走出第一步就沒有後退的道理了,遇到坑就退回去也是不大可能的。企業在走出第一步之前,就應該未雨綢繆,安排好填坑的隊伍,這樣才能有備無患。

 

作者丨白鱔

本文來自博客園,作者:古道輕風,轉載請註明原文鏈接:https://www.cnblogs.com/88223100/p/After-the-localization-and-substitution-of-databases-the-road-to-patching-up-pits-has-never-stopped.html


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 前言 今天給大家介紹的是Python爬取手機商品信息數據,在這裡給需要的小伙伴們代碼,並且給出一點小心得。 首先是爬取之前應該儘可能偽裝成瀏覽器而不被識別出來是爬蟲,基本的是加請求頭,但是這樣的純文本數據爬取的人會很多,所以我們需要考慮更換代理IP和隨機更換請求頭的方式來對手機信息數據進行爬取。 在 ...
  • 1.前言 深入學習springboot筆記系列,可能會有錯誤還請指正,互相勉勵,互相學習。 SpringBoot 項目啟動只需啟動 主類的 main 函數即可啟動java服務,相比於以往的部署java服務簡化方便了很多,接下我們從主函數入手一步一步剖析源碼是如何通過main函數啟動服務的。 2.Sp ...
  • 概述 為什麼要用到深拷貝呢?比如我們建了某個類Person,並且實例化出一個對象,然後,突然需要把這個對象複製一遍,並且複製出來的對象要跟之前的一模一樣,來看下我們一般會怎麼做。 方法一(利用反射實現) public static T DeepCopy<T>(T obj) { //如果是字元串或值類 ...
  • Github Actions是什麼? Github Actions 官方介紹:GitHub Actions是一個持續集成和持續交付(CI/CD)平臺,允許您自動化構建、測試和部署管道。您可以創建構建和測試存儲庫中的每個拉取請求的工作流,或者將合併的拉取請求部署到生產中。 GitHub Actions ...
  • NTP 時間同步 NTP(Network Time Protocol)協議,網路時間協議。利用ntp協議可以實現網路中的電腦時間同步。 實現NTP協議的工具: ntpdate:只能同步一次時間 ntp:持久同步時間 chrony:持久同步時間,精度比上面的ntp更好,速度更快。 使用ntpdate ...
  • 問題描述: 新手 想安裝VMware tools與 主機進行文件共用 虛擬機(M) –> 安裝VMware Tools(T) 一直顯示灰色 按鍵一直不好使 嘗試了很多次 什麼linux.iso 但根本沒用 一直找不到CSDN上說的什麼什麼gz壓縮包 反覆試了很多遍csdn上的教程 大多都沒用 我不知 ...
  • 今天和小伙伴日常在群內吹水的時候,有群友問了這樣一個問題: 腳本文件第一行加個 #!/usr/bin/bash 有什麼用呢? 其實,除了這種之外,還有很多其他寫法,比如: #!/bin/bash #!/usr/bin/env bash #!/bin/awk 這些寫法大同小異,但很多同學像我一樣,在之 ...
  • 通過編譯安裝的時候指定echo模塊,實現列印輸出變數的值。 # 客戶端地址:10.0.0.66 root@ubuntu1804:~# curl 10.0.0.44/x/y/z?name=bob?passwd=123 remote_addr: 10.0.0.66 #客戶端ip地址 args: name ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...