解讀數倉中的數據對象及相關關係

来源:https://www.cnblogs.com/huaweiyun/archive/2022/12/02/16943952.html
-Advertisement-
Play Games

摘要:為實現不同的功能,GaussDB(DWS)提供了不同的數據對象類型,包括索引、行存表、列存表及其輔助表等。這些數據對象在特定的條件下實現不同的功能,為資料庫的快速高效提供了保證,本文對部分數據對象進行介紹。 本文分享自華為雲社區《GaussDB(DWS)之數據對象及相互關係總結》,作者:我的橘 ...


摘要:為實現不同的功能,GaussDB(DWS)提供了不同的數據對象類型,包括索引、行存表、列存表及其輔助表等。這些數據對象在特定的條件下實現不同的功能,為資料庫的快速高效提供了保證,本文對部分數據對象進行介紹。

本文分享自華為雲社區《GaussDB(DWS)之數據對象及相互關係總結》,作者:我的橘子呢 。

為實現不同的功能,GaussDB(DWS)提供了不同的數據對象類型,包括索引、行存表、列存表及其輔助表等。這些數據對象在特定的條件下實現不同的功能,為資料庫的快速高效提供了保證,本文對部分數據對象進行介紹。

1.索引(index)

索引是關係型資料庫中對某一列或者多個列的值進行預排序的數據結構。如果資料庫的記錄非常多,通過建立索引可以獲得非常快的查詢速度,當對某一列建立索引之後,通過該列進行相關查詢時資料庫系統就不必掃描整個表,而是直接通過索引定位到符合條件的記錄,在一定程度上能夠大幅提升查詢得速度。

假如需要執行如下的語句進行查詢:

SELECT name FROM test_1 WHERE number =10

一般情況下資料庫需要對每一行進行遍歷查詢,直到找到所有滿足條件number=10的元組信息。當資料庫的記錄很多,而滿足where條件的記錄又很少時,順序掃描的性能就會很差。這時如果在表test_1的number屬性上建立索引,用於快速定位需要匹配的元組信息,資料庫只需要根據索引的數據結構進行搜索,由於常用的索引結構有B-Tree、Hash、GiSt、GIN等,這些索引結構的查詢都是快速高效的,因此可以在少數幾步內完成查詢,大大提高了查詢效率。

對錶test_1的number屬性建立索引語句如下:

CREATE INDEX numberIndex ON test_1(number);

由於GaussDB里的所有索引都是“從屬索引”,索引在物理文件上與原來的表文件分離,執行上述創建索引語句後,系統會生成relname為numberIndex的索引類型。表和索引都是資料庫對象,在pg_class里會有該索引的記錄,有與之相對應的oid,同時在pg_index表裡會記錄索引及其對應主表的信息。對應屬性信息如圖1所示。

圖1 pg_index部分屬性

2.toast表

toast(The Oversized-Atttibute Storage Techhnique)即超尺寸欄位存儲技巧,是資料庫提供的一種存儲大數據的機制。只有一些具有變長表現形式的數據類型才會支持toast,比如TEXT類型。由於在GaussDB(DWS)的行存儲方式中,一條數據的所有列組合在一起稱之為一個tuple,多個tuple組成一個page。page是數據在文件存儲中的基本單位,其大小是固定的且只能在編譯器指定,之後無法修改,預設發大小為8KB,當某行數據很大超過page的大小時,資料庫系統就會啟動toast,對數據進行壓縮和切片。實際數據以行外存儲的形式存儲在另外一張表中,這張表就是toast表。

當一張表的任何一個屬性是可以toast的,則這張表會有一張關聯的toast表,在pg_class里表的reltoastrelid屬性里記錄了該toast表的oid,如果沒有關聯的toast表,reltoastrelid=0。那麼如何判斷一張表的屬性是否是可以toast的呢?我們可以在表的Storage選項中查看對應屬性的存儲策略。有以下四種不同的存儲策略:

  • PLAIN:避免壓縮或者行外存儲;此外,它禁止為變長類型使用單位元組的頭。 這隻對那些不能TOAST的數據類型的列才有可能。
  • EXTENDED:允許壓縮和行外存儲。 這是大多數TOAST數據類型的預設策略。首先會嘗試對數據進行壓縮, 如果行仍然太大,則進行行外存儲。
  • EXTERNAL:允許行外存儲,但是不許壓縮。 使用EXTERNAL,將使那些數據類型為text和bytea的欄位上的子字元串操作更快 (代價是增加了存儲空間),因為這些操作是經過優化的:如果行外數據沒有壓縮,那麼它們只會獲取需要的部分。
  • MAIN:允許壓縮,但不允許行外存儲。 實際上,在這樣的欄位上仍然會進行行外存儲, 但只是作為沒有辦法把數據行變得更小以使之足以放置在一個頁面中的最後選擇。

假如創建表語句如下:

CREATE TABLE test_t(id int,description text);

創建了一張test_t表,該表有id和description兩個屬性,分別屬於int和text類型,查看該表的屬性對應的Storage策略:

圖2 test_t表相關信息

我們可以看出description屬性的Storage策略為EXTENDED,是可以toast的,系統會為test_t表創建一張關聯的toast表。

圖3 test_t表對應toast表

通過查詢pg_class,可以的看到表test_t關聯的toast表的oid為52579,進一步以此oid為條件在pg_class里就會得到toast表的相關信息。

圖4 toast表相關信息

下圖為test_t表和其對應的toast表之間的關係,以及toast表一些基本屬性的介紹。

圖5 test_t與其toast表關係圖

3.cudesc表

GaussDB(DWS)除了提供行存儲方式外,還支持列存儲方式。列存儲方式在數據壓縮、列批量數據的運算、大數據統計分析等場景中有著顯著的優勢。CU(Compress Unit)壓縮單元是列存儲的最小單位,每列預設60000行存儲在一個CU中,CU生成後數據 固定不可更改。CUDesc本身是一張行存表,它用來輔助記錄列存表的cu信息,該表的每一行描述一個CU,包括最大值最小值以及CU在文件中的偏移量和大小,連續多個行中各個不同的列的cu_id相同,可以認為就是把連續多個行截斷拿出來,然後再根據不同的列,放到不同的cu中,這些CU所在的行數都是一致的,用一個cu_id表示,但是col_id不一樣。同時還增加了一個col_id=-10的列,這個列為VCU,表示這些連續的行中,有哪些行已經是被刪除了,用delete_map記錄刪除信息。如圖6所示。

圖6 cudesc表示意圖

每張列存表都有一張對應的CUDesc表,CUDesc表的oid可以在pg_class中對應列存表元組的relcudescrelid屬性中查到,所有CUDesc表預設存儲在namespace oid = 100,name為cstore的namespace下。

4.delta表

在列存儲方式中,無論是向列存表中插入1條還是60000條數據,都只會生成一個CU,在多次插入少量數據時,不能有效的利用列存壓縮能力,導致數據膨脹影響查詢的性能和磁碟使用率。CU只支持追加寫的方式,也就是說,後面對這個CU中的數據做更新或刪除都不會真正更改這個CU,刪除是將老數據在字典中標記為作廢,更新操作是標記老數據刪除後,再寫入一條新記錄到新CU,原來的CU不會有任何的修改。

從這裡我們可以看出,在對列存表進行多次更新/刪除,或每次只插入很少量的數據後,會導致列存表空間膨脹,大量空間無法有效利用,這是因為列存表在設計上就是為了大批量數據導入以及海量數據按列存儲/查詢。Delta表正是為瞭解決這兩個問題。在啟用delta表後,單條或者小批量數據導入時,數據將進入delta表中,避免小CU的產生,delta表的增刪改查與行存表一致。開啟delta表後,將顯著提升列存表單條導入的性能。

delta表同樣是一張行存表,為了輔助列存表而存在。在創建列存表時系統會為該列存表創建一張對應的delta表,delta表的oid可以在pg_class中對應列存表元組的reldeltarelid屬性中查到,所有delta表也預設存儲在namespace oid = 100,name為cstore的namespace下。

創建一張列存表col_test,同時設置reloption屬性enable_delta=true。在pg_class中查看該表對應的delta表oid。

圖7 創建列存表並開啟delta表

進一步根據該oid信息可以查到delta表的對應信息。

圖8 查詢delta表相關信息

可以指定reloption選項設置是否為該列存表開啟delta表:

圖9 開啟/關閉delta表操作

5.分區表

分區表就是把邏輯上的一張表根據某種方案分成幾張物理塊進行存儲。這張邏輯上的表稱之為分區表,物理塊稱之為分區。分區表是一張邏輯表,不存儲數據,數據實際是存儲在分區上的。分區表的定義不難理解,下麵我們通過一個例子說明分區表的用法。

創建一張有id和name兩個屬性的分區表part_test,該表以id的大小進行分區,其中id<10的數據存儲在分區location_1,10≤id<20的數據存儲在分區location_2,所有id≥20的數據存儲在分區location_3。

CREATE TABLE part_test(id int,name text) partition BY range(id) (partition locatition_1 values less than (10),partition locatition_2 values less than (20),partition locatition_3 values less than (maxvalue));

創建好part_test表後,我們所有的增刪改查都是直接對part_test表操作的,對用戶操作來說part_test表與普通表沒有什麼區別,但實際的存儲方式卻是嚴格按照分區的劃分方式進行存儲的,數據存儲在各個分區上,part_test表作為一張邏輯表不保存數據。我們可以通過pg_partition這張系統表查詢到一張分區表的分區信息。

圖10 part_test表分區信息

分區表和分區的關係如圖所示:

圖11 分區表和分區關係圖

6.各類表相關對象總結

 

點擊關註,第一時間瞭解華為雲新鮮技術~


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 本文講解二維碼的生成與解碼:使用Python工具庫qrcode『構建二維碼』,使用cv2和pyzbar兩類工具庫『解碼二維碼』。二維碼是目前最常使用的快捷信息存儲方式之一,讀完本篇即可掌握這一必備技能! ...
  • 有一個煤礦項目,使用iNeuOS系統時有一個需要是:要統計設備的運行時長,進一步統計設備運行效率。主要是有效分析設備運行狀態,合理的進行節能。iNeuOS本身具備強大的腳本能力,需要現場實施人員有一定腳本編寫能力,如果不具備腳本編寫能力,那麼下麵的模板修改相應的參數即可。 ...
  • 前言:本系列是我自己學習.net相關知識,以便跟上.net跨平臺的步伐,目前工作原因基本在.net Framework4.7以下,所以才有了這一系列的學習總結,但是並不是從基本的C#語法和基礎知識開始的,而是圍繞.net core以後平臺的重要設計和差異進行溫故知新。目的在於通過要點的梳理最後串聯起 ...
  • Linux 基礎-新手必備命令 概述 常見執行 Linux 命令的格式是這樣的: 命令名稱 [命令參數] [命令對象] 註意,命令名稱、命令參數、命令對象之間請用空格鍵分隔。 命令對象一般是指要處理的文件、目錄、用戶等資源,而命令參數可以用長格式(完整的選項名稱),也可以用短格式(單個字母的縮寫), ...
  • 1 hadoop-最全最完整的保姆級的java大數據學習資料 大數據技術解決的是什麼問題? 大數據技術解決的主要是海量數據的存儲和計算。 Hadoop的廣義和狹義之分 狹義的Hadoop:指的是一個框架,Hadoop是由三部分組成:HDFS:分散式文件系統--> 存儲; MapReduce:分散式離 ...
  • 學習中的思考 在 mysql 學習和使用中,我遇到了不少的難題,我覺得我應該形成一套邏輯思考體系,可以讓我在初識 mysql 的過程中加入理性思考,從一開始就探求原理,瞭解所學內容的核心和關鍵點,做到一葉知秋而不是只見樹木不見森林。 mysql 幾種數據類型的底層是如何存儲的,不同的 sql 語句對 ...
  • 緣起 StoneDB 在列式存儲引擎 Tianmu 的加持下,在大多數場景下相對 MySQL 都會有大幅性能提升。當然,這是需要工程師不斷優化代碼才能做到的,而且,性能好也需要通過基準測試才有說服力,所以我們也會針對 TPC-H 的測試語句進行測試排查,爭取不斷提升 StoneDB 的性能。本文主要 ...
  • 近年來大家可能都有這樣一種感受:與編程語言市場不同,資料庫市場的競爭激烈異常——一線的在停滯甚至下墜,二線的正在反超。有種種跡象表明:MySQL 這個流行榜上的榜一大哥,正在逐漸淡出專業開發者的視野。再見 MySQL,可能不再只是一個嘩眾取寵的梗了! ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...