數據倉庫(12)數據治理之數倉數據管理實踐心得

来源:https://www.cnblogs.com/the-pig-of-zf/archive/2022/05/11/16259912.html
-Advertisement-
Play Games

這邊文章聊聊自己對數據治理開發實踐的一些思路,就是聊聊怎麼開始去做數據治理這件事情。說起數據治理,有時候雖然看了很多文章,看了很多的介紹,瞭解數據治理的理論,但是實際上需要我們去搞的時候,就會踩很多的坑。這裡記一下自己做數據治理的一些思路,做做筆記,也分享給需要的同學。 當然,想要做數據治理,想要學 ...


這邊文章聊聊自己對數據治理開發實踐的一些思路,就是聊聊怎麼開始去做數據治理這件事情。說起數據治理,有時候雖然看了很多文章,看了很多的介紹,瞭解數據治理的理論,但是實際上需要我們去搞的時候,就會踩很多的坑。這裡記一下自己做數據治理的一些思路,做做筆記,也分享給需要的同學。

當然,想要做數據治理,想要學習瞭解,一下數據治理的範圍,理論等,最好可以看看別人怎麼做的,瞭解數據治理可以參考:數據倉庫(11)什麼是大數據治理,數據治理的範圍是哪些

那接下來就繼續說說數據治理的一些思路心得。

接到數據治理的任務?要怎麼做?

  • 梳理目前數據集群,以及業務的總體情況

這個,其實沒有什麼好說,做事情之前,肯定是要先瞭解,我們要做的東西是怎麼樣的,評估可能會遇到的問題,這樣才能進一步做出來好的數據質量方案。

  • 對數據治理進行分類

瞭解了我們面對的數據集群之後,就要瞭解對我們需要治理的方向,進行分類了,這個對我們後續的方案設計和組件的選取、改造會有很大的影響,不一樣的分類,我們要解決問題的範圍,是不一樣的。

那要怎麼分類?首先是大的方向。

  1. 主數據管理
  2. 元數據管理
  3. 數據標準
  4. 數據質量管理
  5. 數據安全管理
  6. 數據計算管理
  7. 數據存儲管理

大的方向確定了,當其實還是太大了,還是需要進一步的進行切割。

像是數據質量管理,可以進一步切分為

1 唯一性校驗:不存在無意義的重覆數據
2 完整性校驗:數據完整且連續
3 一致性校驗:數據在多數據源中意義一致
4 有效性校驗:這裡主要指數據在分析的時間點是有效,而非過期或失效數據
5 準確性校驗:數據合理、準確,並符合數據類型的標準

元數據管理,要劃分為技術元數據和業務元數據等,具體的劃分粒度,應該需要到具體的,可實現的,不容易混淆,以及偏於以後數據的管理和使用。畢竟這個東西後續要給開發,給數據bi等人使用的。當然,我們可能不能已下載就劃分好一個最好的分類,我們應該迴圈迭代,做出一個更加符合實際出來。

數據管理這個,如果說技術能力,開發人力有限,那其實往往更加簡單的方式更好,也便於推廣,應該說一個可用的方案好過於一個全面,但用起來不方便的方案。

  • 針對某個類別的數據,進行具體設計,開發,併進一步成規範

上面,我們已經大概梳理好了我們數據治理的範圍和分類,進一步的,我們就需要落地了。這個時候,我們就要進一步的針對,我們的劃分的問題,提出,我們的方案,並實現他。

如果,上面說的數據質量管理中的準確性校驗,這個時候,我們就面臨了一個問題,怎麼樣的數據,符合數據合理、準確,並符合數據類型的標準這樣的數據規範?我們會怎麼去驗證這個東西呢?正常情況下,開發人員是怎麼去驗證這個東西的?

所以,這個時候,我們就需要抽象出這些具體的操作,拼通過合適的方案實現他。

如果,準確性校驗,開發人員一般是通過寫sql,通過一定的數據規則判斷的,比如數據的波動,數據值的範圍等。那麼我們做這個的時候,是不是就可以做這樣的一個系統,可以配置sql,或者一些比較通過的邏輯,定時比對數據,得到我們的一個結果,實現這樣的一個功能?當然這個肯定不是最好的方案,但是一個可用的方案好過於一個全面,但用起來不方便的方案。然後不停的迭代優化,完善。

當然,這個時候也要放過來思考我們上面的劃分是不是,合理,比如數據質量管理,是不是可以使用同一個思路去做?爭取事半功倍。

  • 執行規範

做好上面的事情,接下來,就是考驗執行了的時候了,任何方案在,最終如果不能很好的執行,那就是事倍功半。

啰里啰唆,寫了這一點點心得,邏輯可能不是很通暢,希望可以給到各個在數據治理掙扎的同學,一點思路,這個也是我的個人筆記,後續有新的想法,再更新。

參考資料:數據倉庫(12)數據治理之數倉數據管理實踐心得

本文來自博客園,作者:張飛的豬,轉載請註明原文鏈接:https://www.cnblogs.com/the-pig-of-zf/p/16259912.html


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • rpm資源包下載 在一些內網或區域網環境中,無法通過 yum install xxx 進行程式包的下載安裝。 需要從具有外網環境的電腦上下載離線程式包,拷貝至內網環境中手動安裝。 方法一:使用 yum 下載 yum --downloadonly --downloaddir=/home/package ...
  • 1.第一個shell vi first.sh !/bin/bash 作者:Arya 編寫時間:2022-04-22 功能:this is my first blog! echo "this is my first shell!" 2.crond服務 以守護進程方式在無需人工干預的情況下來處理著一系列 ...
  • https://www.cnblogs.com/yeungchie/ XFCE是一款輕量級 Linux 桌面,當前版本已經將所有部件從 GTK2 更新到 GTK3,從D-Dbus Glib更新到GDBus,大部分組件支持Object Introspection(簡稱 GI,用於產生與解析 C 程式庫 ...
  • 為什麼要使用Docusaurus Docusaurus 是 Facebook 專門為開源項目開發者提供的一款易於維護的靜態網站創建工具,使用 Markdown 即可更新網站。構建一個帶有主頁、文檔、API、幫助以及博客頁面的靜態網站,只需5分鐘。 Docusaurus 是一個靜態站點生成器。它構建了 ...
  • cat命令詳解 用法 功能 cat filename 獲取文件內容 cat file1 file2 > newfile 將file2的內容追加到file1,生成新文件newfile,但不會刪除原文件 cat > file 創建並編輯file,若file存在,則原文件內容被覆蓋, 按ctrl c 或者 ...
  • 鏡像下載、功能變數名稱解析、時間同步請點擊 阿裡雲開源鏡像站 第一次在Linux雲伺服器上部署前後端分離項目,查了很多資料和視頻,踩了許多坑。成功實現部署若依的前後端分離項目後,想記錄一下前後端部署的過程,供學習的小伙伴參考。 1.環境準備 一定要在開始前先準備好以下工具和環境(可以上網查找安裝的方法),後 ...
  • 引言 我們在定時任務中經常能接觸到cron表達式,但是在寫cron表達式的時候我們會遇到各種各樣版本的cron表達式,比如我遇到過5位、6位甚至7位的cron表達式,導致我一度搞混這些表達式。更嚴重的是,當我們沒有準確寫出cron表達式時,會出現定時任務一直沒有執行,或者定時任務執行太頻繁的糟糕情況 ...
  • 一、Flink中的狀態 官方文檔 有狀態的計算是流處理框架要實現的重要功能,因為稍複雜的流處理場景都需要記錄狀態,然後在新流入數據的基礎上不斷更新狀態。下麵的幾個場景都需要使用流處理的狀態功能: 數據流中的數據有重覆,想對重覆數據去重,需要記錄哪些數據已經流入過應用,當新數據流入時,根據已流入過的數 ...
一周排行
    -Advertisement-
    Play Games
  • 不廢話,直接代碼 private Stack<Action> actionStack = new Stack<Action>(); private void SetCellValues() { var worksheet = Globals.ThisAddIn.Application.ActiveS ...
  • OpenAPI 規範是用於描述 HTTP API 的標準。該標準允許開發人員定義 API 的形狀,這些 API 可以插入到客戶端生成器、伺服器生成器、測試工具、文檔等中。儘管該標準具有普遍性和普遍性,但 ASP.NET Core 在框架內預設不提供對 OpenAPI 的支持。 當前 ASP.NET ...
  • @DateTimeFormat 和 @JsonFormat 是 Spring 和 Jackson 中用於處理日期時間格式的註解,它們有不同的作用: @DateTimeFormat @DateTimeFormat 是 Spring 框架提供的註解,用於指定字元串如何轉換為日期時間類型,以及如何格式化日 ...
  • 一、背景說明 1.1 效果演示 用python開發的爬蟲採集軟體,可自動抓取抖音評論數據,並且含二級評論! 為什麼有了源碼還開發界面軟體呢?方便不懂編程代碼的小白用戶使用,無需安裝python、無需懂代碼,雙擊打開即用! 軟體界面截圖: 爬取結果截圖: 以上。 1.2 演示視頻 軟體運行演示視頻:見 ...
  • SpringBoot筆記 SpringBoot文檔 官網: https://spring.io/projects/spring-boot 學習文檔: https://docs.spring.io/spring-boot/docs/current/reference/html/ 線上API: http ...
  • 作為後端工程師,多數情況都是給別人提供介面,寫的好不好使你得重視起來。 最近我手頭一些活,需要和外部公司對接,我們需要提供一個介面文檔,這樣可以節省雙方時間、也可以防止後續扯皮。這是就要考驗我的介面是否規範化。 1. 介面名稱清晰、明確 顧名思義,介面是做什麼的,是否準確、清晰?讓使用這一眼就能知道 ...
  • 本文介紹基於Python語言,遍歷文件夾並從中找到文件名稱符合我們需求的多個.txt格式文本文件,並從上述每一個文本文件中,找到我們需要的指定數據,最後得到所有文本文件中我們需要的數據的合集的方法~ ...
  • Java JUC&多線程 基礎完整版 目錄Java JUC&多線程 基礎完整版1、 多線程的第一種啟動方式之繼承Thread類2、多線程的第二種啟動方式之實現Runnable介面3、多線程的第三種實現方式之實現Callable介面4、多線的常用成員方法5、線程的優先順序6、守護線程7、線程的讓出8、線 ...
  • 實時識別關鍵詞是一種能夠將搜索結果提升至新的高度的API介面。它可以幫助我們更有效地分析文本,並提取出關鍵詞,以便進行進一步的處理和分析。 該介面是挖數據平臺提供的,有三種模式:精確模式、全模式和搜索引擎模式。不同的模式在分詞的方式上有所不同,適用於不同的場景。 首先是精確模式。這種模式會儘量將句子 ...
  • 1 為啥要折騰搭建一個專屬圖床? 技術大佬寫博客都用 md 格式,要在多平臺發佈,圖片就得有外鏈 後續如博客遷移,國內博客網站如掘金,簡書,語雀等都做了防盜鏈,圖片無法遷移 2 為啥選擇CloudFlare R2 跳轉:https://dash.cloudflare.com/ 有白嫖額度 免費 CD ...