從數倉發展史淺析數倉未來技術趨勢

来源:https://www.cnblogs.com/huaweiyun/archive/2023/03/28/17264518.html
-Advertisement-
Play Games

摘要:華為雲EI DTSE技術佈道師/華為雲數倉GaussDB(DWS)首席架構師曾凱,針對數據倉庫的起源、演進過程、未來技術發展趨勢,與開發者和伙伴朋友們展開交流互動,幫助開發者快速瞭解數據倉庫相關信息與能力。 本文分享自華為雲社區《直播回顧 | 從數倉發展史淺析數倉未來技術趨勢》,作者:胡辣湯。 ...


摘要:華為雲EI DTSE技術佈道師/華為雲數倉GaussDB(DWS)首席架構師曾凱,針對數據倉庫的起源、演進過程、未來技術發展趨勢,與開發者和伙伴朋友們展開交流互動,幫助開發者快速瞭解數據倉庫相關信息與能力。

本文分享自華為雲社區《直播回顧 | 從數倉發展史淺析數倉未來技術趨勢》,作者:胡辣湯。

在本期《從數倉發展史淺析數倉未來技術趨勢》的主題直播中,我們邀請到華為雲EI DTSE技術佈道師/華為雲數倉GaussDB(DWS)首席架構師曾凱,針對數據倉庫的起源、演進過程、未來技術發展趨勢,與開發者和伙伴朋友們展開交流互動,幫助開發者快速瞭解數據倉庫相關信息與能力。

數據倉庫由何而來?

上世紀70年代,E.F.Codd提出關係型資料庫模型,把用戶從複雜數據處理的底層邏輯中抽離出來。1970年代,MIT提出單獨構建分析系統的基礎理論。1980年代初,W.H.Inmon開始了“記錄系統”、“本原數據”、“決策支持資料庫”等專題的研究 。1990年代初,數據倉庫之父--- W.H.Inmon出版了數據倉庫的經典作品《構建數據倉庫》。從90年代開始,數據倉庫進入蓬勃發展時期,涌現了非常多數據倉庫產品。數據倉庫的概念內涵非常豐富,但從抽象來說,借用Inmon的定義,數據倉庫是一個面向主題的、集成的、相對穩定、反映歷史變化(隨時間變化),用來支撐管理人員決策的數據集合。其中4個主要特點為:

  1. 面向主題:主要是給數據分類,方便理解和管理。
  2. 集成:在使用數據之前,需要對其進行加工與集成,並且其有統一的數據結構和編碼。
  3. 非易失的:數據倉庫中包含了大量的歷史數據,其是極少或基本不更新的。
  4. 隨時間變化:數據隨時間不斷積累,保存較長的時限。數據特征標明瞭歷史時期,反映時間趨勢的變化。

傳統數據倉庫技術架構

數據倉庫的發展也經歷了底層技術架構的演進。一般來說傳統數據倉庫的技術架構可以概括為三類:Shared Everything, Shared Disk和Shared Nothing。

  • Shared Everything針對單機資料庫,完全透明共用單機內的CPU、記憶體、IO資源;
  • Shared Storage各個處理節點使用其自己獨有的CPU、記憶體,但是存儲是共用的;
  • Shared Nothing是一種分散式計算架構,CPU、記憶體、磁碟等資源都是私有的,整個系統中不存在共用資源,沒有單點的競爭。

Shared-Nothing架構因為其優秀的可擴展性,目前已成為高性能數據倉庫的主流架構。在該體系架構下,數據是按照節點水平劃分,每個節點只負責自己本地的數據。這樣就會使得每個節點有相同的功能併在自己的硬體上運行,其資源不去進行爭用。

數據倉庫邏輯分層架構

對於上層應用來說,業界有很多對數據倉庫的邏輯分層架構,其中比較有代表性的邏輯分層結構有四個層次:分別為數據運營層(ODS,Operational Data Store)、數據明細層(DWD,Data Warehouse Detail)、數據服務層(DWS,Data Warehouse Service)、數據應用層(ADS,Application Data Service)。

  • 數據運營層(ODS),該層將原始數據幾乎無處理地存放在數據倉庫系統彙總,結構上與源系統保持一致,其職責是將基礎數據同步、存儲,是後續加工數據的來源;
  • 數據明細層(DWD),該層主要解決的是數據質量和數據完整性問題,在ODS的基礎之上對數據進行加工處理,提供更乾凈的數據,並基於維度建模,明細寬表,復用關聯計算,減少數據掃描;
  • 數據服務層(DWS),該層主要是將上層來的數據整合彙總成分析某一個主題域的數據服務層,用於提供後續的業務查詢;
  • 數據應用層(ADS),是為數據產品和數據分析提供使用的數據,為進一步的數據分析提供個性化數據、寬表集市、趨勢指標等。

未來,數據倉庫將如何發展?

從早期PC時代到互聯網時代、移動互聯網時代,再到智能數據時代。數據特征呈海量化、多樣化發展,業務特征呈實時化、生態化發展。自數字化以來,數據量年增長30%,每三年翻一番,互聯網交易數據是4.5億筆/天。為了充分挖掘數據價值,發掘數據潛力,便於支撐業務決策,使得業務收集保存越來越多的數據,帶來了數據海量化。同時也促進了業務收集各種數據,比如日誌、遙感、文件、圖片的數據,從不同數據里挖掘信息,帶來了數據多樣化。業務決策要求發現數據中實時的趨勢變化,支持實時的業務決策,例如實時風控、工業OT等,這些都要求數據分析的實時化;此外,數據的分析挖掘需要整合多樣性的數據,從而走向多樣信息的融合,走向生態化。

數據倉庫發展趨勢:

華為雲GaussDB(DWS)發展歷程

華為雲GaussDB(DWS)歷經12年技術演進,2011年開始技術預研,2014年首次上市,通過不停地迭代和演進,從2017年開始大規模商用,當前全球已累積1700+大客戶。針對數倉發展趨勢,GaussDB(DWS)也在不斷地演進,2022年推出實時數倉、IoT數倉,應對實時數據的接入,滿足實時計算場景需求。

2023年3月底GaussDB(DWS)即將發佈雲原生數倉,提供存算管三層分離、極致彈性能力,提供湖倉一體、數智融合和優異性能體驗。

  • Serverless的雲原生架構:存算管的三層分離,計算存儲資源獨立、靈活、快速伸縮,高性價比滿足用戶變化多樣的負載需求和嚴格的負載隔離要求。
  • 極致彈性:多樣的彈性方式邏輯集群擴縮容\啟停,一份數據承載多樣負載,數據實時共用。
  • 湖倉一體:支持數據湖與數倉互聯互通,不需要進行數據搬遷,GaussDB(DWS)可以直接訪問數據湖的數據表,進行數據分析,可以體驗到數倉的極致分析性能和精準管控度。
  • 數智融合:數據生產線與AI生產線的無縫對接,數據生產線為AI生產線提供強勁的數據處理能力和靈活的供數方式;AI訓練推理能力嵌入數據分析流程。
  • 優異性能:一體化性能優化,匹配傳統數倉的性能體驗。

本期直播完整視頻點擊鏈接查看,更多關於GaussDB(DWS)雲原生數倉技術能力解析,請關註3月29日(本周三)下午16:30-18:00,華為雲GaussDB(DWS)雲原生首席SE 王傳廷老師的直播課堂。直播報名鏈接:https://bbs.huaweicloud.com/signup/6f7874a9742e42389ddd6cc8b7af32d6

 

點擊關註,第一時間瞭解華為雲新鮮技術~


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 一·依賴包以及下載地址 本文使用到的離線包: apr-1.7.0.tar.gz apr-util-1.6.1.tar.gz pcre2-10.40.tar.gz expat-2.1.0-14.el7_9.x86_64.rpm expat-devel-2.1.0-14.el7_9.x86_64.rpm ...
  • SFTP 常用命令 通過堡壘機進入的 Linux 操作系統,無法直接使用 WinSCP 等工具進行文件的上傳下載。 可使用 SecureCRT 先進入命令行模式 ...
  • 1. 概述 1.1. SQL-92標準裡加入的最有用的特性 1.2. 寫法 1.2.1. 簡單CASE表達式 CASE sex WHEN '1' THEN ’男’ WHEN '2' THEN ’女’ ELSE ’其他’ END 1.2.1.1. 寫法簡單,但能實現的事情比較有限 1.2.2. 搜索C ...
  • 背景 早上收到某系統的告警tidb節點掛掉無法訪問,情況十萬火急。登錄中控機查了一下display信息,4個TiDB、Prometheus、Grafana全掛了,某台機器hang死無法連接,經過快速重啟後集群恢復,經排查後是昨天上線的某個SQL導致頻繁OOM。 於是開始亡羊補牢,來一波近期慢SQL巡 ...
  • 超詳細【入門精講】數據倉庫原理&實戰 一步一步搭建數據倉庫 內附相應實驗代碼和鏡像數據和腳本,參考B站up主哈嘍鵬程視頻撰寫而成,感謝!!! ...
  • 存儲引擎 一. MySQL體繫結構 MySQL Server 連接層:連接的處理、認證授權、安全方案、檢查是否超過最大連接數等。 服務層:SQL介面、解析器、查詢優化器、緩存 引擎層:引擎是數據存儲和提取的方式,引擎層有許多引擎可供使用,也可以自定義引擎。索引是在存儲引擎層實現的。 存儲層:存儲數據 ...
  • ##【問題描述】 開發有天碰到一個很奇怪的問題,他的場景是這樣子的: 通過Canal來訂閱MySQL的binlog, 當捕獲到有數據變化時,回到資料庫,反查該數據的明細,然後做進一步處理。 有一次,他碰到一個詭異的現象: 1. Canal收到消息,有一條主鍵id=31019319的數據插入 2. 1 ...
  • sql腳本 表結構設置 點擊查看代碼 if exists(select * from sys.objects where name='Department' and type='U') drop table Department create table Department ( --id iden ...
一周排行
    -Advertisement-
    Play Games
  • 概述:在C#中,++i和i++都是自增運算符,其中++i先增加值再返回,而i++先返回值再增加。應用場景根據需求選擇,首碼適合先增後用,尾碼適合先用後增。詳細示例提供清晰的代碼演示這兩者的操作時機和實際應用。 在C#中,++i 和 i++ 都是自增運算符,但它們在操作上有細微的差異,主要體現在操作的 ...
  • 上次發佈了:Taurus.MVC 性能壓力測試(ap 壓測 和 linux 下wrk 壓測):.NET Core 版本,今天計劃準備壓測一下 .NET 版本,來測試並記錄一下 Taurus.MVC 框架在 .NET 版本的性能,以便後續持續優化改進。 為了方便對比,本文章的電腦環境和測試思路,儘量和... ...
  • .NET WebAPI作為一種構建RESTful服務的強大工具,為開發者提供了便捷的方式來定義、處理HTTP請求並返迴響應。在設計API介面時,正確地接收和解析客戶端發送的數據至關重要。.NET WebAPI提供了一系列特性,如[FromRoute]、[FromQuery]和[FromBody],用 ...
  • 原因:我之所以想做這個項目,是因為在之前查找關於C#/WPF相關資料時,我發現講解圖像濾鏡的資源非常稀缺。此外,我註意到許多現有的開源庫主要基於CPU進行圖像渲染。這種方式在處理大量圖像時,會導致CPU的渲染負擔過重。因此,我將在下文中介紹如何通過GPU渲染來有效實現圖像的各種濾鏡效果。 生成的效果 ...
  • 引言 上一章我們介紹了在xUnit單元測試中用xUnit.DependencyInject來使用依賴註入,上一章我們的Sample.Repository倉儲層有一個批量註入的介面沒有做單元測試,今天用這個示例來演示一下如何用Bogus創建模擬數據 ,和 EFCore 的種子數據生成 Bogus 的優 ...
  • 一、前言 在自己的項目中,涉及到實時心率曲線的繪製,項目上的曲線繪製,一般很難找到能直接用的第三方庫,而且有些還是定製化的功能,所以還是自己繪製比較方便。很多人一聽到自己畫就害怕,感覺很難,今天就分享一個完整的實時心率數據繪製心率曲線圖的例子;之前的博客也分享給DrawingVisual繪製曲線的方 ...
  • 如果你在自定義的 Main 方法中直接使用 App 類並啟動應用程式,但發現 App.xaml 中定義的資源沒有被正確載入,那麼問題可能在於如何正確配置 App.xaml 與你的 App 類的交互。 確保 App.xaml 文件中的 x:Class 屬性正確指向你的 App 類。這樣,當你創建 Ap ...
  • 一:背景 1. 講故事 上個月有個朋友在微信上找到我,說他們的軟體在客戶那邊隔幾天就要崩潰一次,一直都沒有找到原因,讓我幫忙看下怎麼回事,確實工控類的軟體環境複雜難搞,朋友手上有一個崩潰的dump,剛好丟給我來分析一下。 二:WinDbg分析 1. 程式為什麼會崩潰 windbg 有一個厲害之處在於 ...
  • 前言 .NET生態中有許多依賴註入容器。在大多數情況下,微軟提供的內置容器在易用性和性能方面都非常優秀。外加ASP.NET Core預設使用內置容器,使用很方便。 但是筆者在使用中一直有一個頭疼的問題:服務工廠無法提供請求的服務類型相關的信息。這在一般情況下並沒有影響,但是內置容器支持註冊開放泛型服 ...
  • 一、前言 在項目開發過程中,DataGrid是經常使用到的一個數據展示控制項,而通常表格的最後一列是作為操作列存在,比如會有編輯、刪除等功能按鈕。但WPF的原始DataGrid中,預設只支持固定左側列,這跟大家習慣性操作列放最後不符,今天就來介紹一種簡單的方式實現固定右側列。(這裡的實現方式參考的大佬 ...