大宗商品貿易集團數據治理實踐,夯實數字基座 | 數字化標桿

来源:https://www.cnblogs.com/DTinsight/archive/2023/11/23/17851448.html
-Advertisement-
Play Games

某大型央企是首批全國供應鏈創新與應用示範企業,在“十四五”規劃期內以聚焦供應鏈管理核心主業作為主要戰略發展方向。供應鏈運營管理以大宗商品貿易為主,其交易往往具有交易量巨大、交易環節複雜、風險交易難識別、風險客商難管控等痛點。 隨著集團數字化轉型不斷深化,數據應用方面的需求不斷擴展。但集團缺乏統一的大 ...


某大型央企是首批全國供應鏈創新與應用示範企業,在“十四五”規劃期內以聚焦供應鏈管理核心主業作為主要戰略發展方向。供應鏈運營管理以大宗商品貿易為主,其交易往往具有交易量巨大、交易環節複雜、風險交易難識別、風險客商難管控等痛點。

隨著集團數字化轉型不斷深化,數據應用方面的需求不斷擴展。但集團缺乏統一的大數據資產管理平臺,導致在數據應用方面,出現數據價值不凸顯、數據標準不統一、數據質量不可控、數據共用不暢通等問題。

在此背景下,該集團引入袋鼠雲數據治理團隊,立足於打造全集團統一,能滿足覆蓋運管、風控、業務全過程數字化經營管理及分析決策的統一數據資產平臺。對集團現有存量數據進行數據治理及挖掘,搭建數據管理體系,對增量數據進行有效管理和應用。通過梳理目前集團所有存量數據,提煉運營指標及管理指標,科學化管理公司數據資產和挖掘數據價值。

01 圍繞“數據治理、數據服務、數據應用”的數據治理方案

袋鼠雲根據集團提出的數據治理需求,結合內部現有數據開發平臺,以業務應用場景為導向,形成集團統一的數據治理方案。項目以數據治理、數據服務、數據應用三大方向展開實施,其中數據應用以聚焦供應鏈運營管理業務為核心,數據服務以滿足集團下屬各子公司數據需求為主,數據治理以統一集團數據歸集方式、數據質量標準、元數據維護標準、數據建模標準為目標進行建設。

其中數據治理設計的步驟為:確定當前項目的目標和範圍,設計本輪數據治理的模式、架構和方法。以集團當前提出的數據需求場景出發,針對場景數據進行數據治理,主要包括以下幾個步驟

1、架構設計

技術架構上,從場景需求出發,結合當前企業組織架構及數據許可權出發,將數據中台設計為多項目空間加經典ODS、DWD、DWS、ADS四層結構,其中集團為主項目空間,其餘業務供應鏈平臺為子項目空間。另外,根據前期調研結果,結合當前集團業務範圍,將業務根據業務主體進行了數據域的設計與劃分,其中重點建設數據域為:

1)客商域:企業所服務的所有客戶及供應商;
2)商品域:企業自營或代理商品,SKU;
3)交易域:客戶與企業發生的所有交易行為,包括交易合同,訂單,採購等;
4)風險域:企業發生訴訟,處罰等風險數據;
5)倉儲物流域:所有倉庫出入庫,在途等信息;
6)公共域:系統碼值,參數信息,組織架構,人員以及標準化映射信息。

通過分層與分域的設計,將集團原本傳統數據架構轉變為新數據架構,統一源端數據,建設公共事實層,建設服務層最後滿足各個不同需求,有效解決傳統數據架構存在的數據孤立,事實重覆建設,資產盤點困難等問題,更適應當前集團發展階段訴求。

file

2、數據統一歸集

當前集團源端數據大體分為三類:第一種是傳統業務數據,包含SAP系統、MDM系統、CRM系統、雲鏈、高達、南北、OA等系統;第二種是第三方數據,包含船訊網、啟信寶、行情數據、價格數據等;第三種是其他手工填報數據。

其中傳統業務數據存在數據源多,數據量級分佈不均,部分系統只能取得界面全量數據或為高度彙總報表數據等問題,使用數棧底層數據同步工具FlinkX將不同數據接入數據中臺中。

第三方數據使用PySpark腳本任務,通過調取特定的API服務介面,完成數據的採集及簡單清洗,接入數據中台。

手工填報數據通過完成填報報表的初步設計後,迴流手工填報平臺(當前使用飯軟),進行定期同步、定期填報、定期迴流採集的形式來完成數據的收集。

file

3、數據集中處理及標準設計

從架構設計出發,對已接入的源端數據,進行明細事實層的建模設計,進行指標體系的統計和收集。

明細事實層的建模設計秉持維度建模理念,根據不同的主題域,將ODS層數據進行特定範圍的清洗,處理,加工後形成可復用性強的描述某一顆粒度下,某一業務行為的各項信息,縱向可以進行上鑽下鑽,橫向可以對比。

針對指標層的加工處理,在引入數據中台之前,數據計算邏輯、指標口徑都存放在SAP系統的代碼中,無法進行有效復用。為瞭解決這一問題,根據指標體系設計方法論,統一定義指標體系的各信息(包含指標ID、指標名稱、指標主題、業務口徑、維度、修飾詞、計算方式、計算頻率、時間周期、業務對接人及開發負責人),在接下來企業的數據應用過程中,完成數據指標口徑的收口和統一。

4、數據應用場景

數據應用場景以集團供應鏈運營管理為核心,分別對運營管理、物流管理、信用管理數據進行統一歸集,按照業務指標邏輯進行數據處理開發,滿足業務人員數據報表填報和數據統計分析應用場景。

運營管理場景:通過重新梳理SAP客戶逾期、客戶賒銷、現貨敞口庫存等業務報表數據邏輯為基礎,結合大數據平臺從SAP底表取數能力,實現風險周報填報、簽約情況分析、重大事項填報場景建設,有效減輕業務人員每周報表加工填報的工作壓力,同時提高業務數據線上留存能力。

物流管理場景:以物流合同、物流供應商、供應商庫點、庫點庫存、庫點盤點記錄數據為基礎,進行統一匯聚處理,按照業務指標口徑進行數據開發,實現物流合同看板、物流供應商看板、庫點盤點密度看板、庫存看板四大看板,為業務人員發現潛在風險和日常業務數據便捷查詢提供有利條件。

信用管理場景:以客商授信額度、客商逾期、行業產品加工利潤數據為核心,結合業務邏輯指標進行數據開發,實現授信額度跟蹤、逾期數據分析、行業加工利潤填報場景建設,為業務人員控制客商授信額度、發現客商潛在風險、明確當前各行業產品盈利情況提供有效支撐。

02 夯實數字基座,有效支撐數據應用

截至目前,集團數據中台共構建700餘張表,數據執行任務總量500餘個,其中ODS數據源始層同步任務200多個、DWD數據明細層清洗加工任務40多個、DWS數據彙總層彙總任務60多個、DIM數據維度層維度同步任務20多個、ADS數據應用層業務場景數據推送任務100多個。

滿足集團供應鏈運管部物流倉儲管理、客商信用管理、價格管理、運營管理等部門數據分析需求,實施搭建簽約銷售/採購看板、物流倉儲看板、授信額度跟蹤看板、逾期數據分析看板、運管風險逾期周報填報等業務場景。

《數棧產品白皮書》下載地址:https://www.dtstack.com/resources/1004?src=szsm

《數據治理行業實踐白皮書》下載地址:https://www.dtstack.com/resources/1001?src=szsm

想瞭解或咨詢更多有關大數據產品、行業解決方案、客戶案例的朋友,瀏覽袋鼠雲官網:https://www.dtstack.com/?src=szbky


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 簡介: 問題:在WPF中,使用了ObservableCollection<T>作為dataGrid的數據源,發現更新數據的時候不會觸發dataGrid的更新 By MaQaQ 2023-11-22 分析: 1、ObservableCollection 會在集合的元素添加、移除或者清空時才觸發更新通知 ...
  • 前言 在C#中,var關鍵字是用來聲明變數類型的,它是C# 3.0推出的新特征,它允許編譯器根據初始化表達式推斷變數類型,有點跟javascript類似,而javascript中的var是弱類型。它讓C#變數聲明更加簡潔,但也導致了一些關於C#是強類型還是弱類型的爭論。 解析 在傳統意義上,強類型語 ...
  • Welcome to YARP - 1.認識YARP並搭建反向代理服務 Welcome to YARP - 2.配置功能 2.1 - 配置文件(Configuration Files) 2.2 - 配置提供者(Configuration Providers) 2.3 - 配置過濾器(Configur ...
  • 四、Linux幫助使用 1、Tab鍵的作用 當所輸入的關鍵字具有唯一性時,一次Tab則自動補齊 所輸入的關鍵字不具有唯一性,則系統會列出所有該關鍵字開頭的內容 補齊命令 補齊參數 2、歷史記錄 history:查看所有歷史記錄 history N :列出最近N條歷史記錄 !N:調用第N條歷史記錄 ! ...
  • vim和vi有什麼區別,簡單的理解vim是vi的升級版,所以直接用vim。 vim的所有操作是區分中英文大小寫的,並且區分數字鍵盤(數字不能用小鍵盤)。 vim有三種工作模式:命令模式、文本編輯模式和最後行模式。 一、命令模式下的操作 1.1游標定位 鍵盤的上下左右可以移動,同時 k 上移 j 下移 ...
  • 為了維護數據表的數據完整性而設定的一系列規則,防止用戶在數據表中插入一些錯誤的數據. 1. 表約束分類 主鍵約束:保證數據的完整性,唯一性,原子性(Id:編號) 外鍵約束 分類表數據: Id分類名稱 1 衣服 2 手機 3 電器 商品表數據: 商品編號商品名稱價格所屬分類(外鍵) 1 李寧牌運動服 ...
  • SQL中的LIKE運算符用於在WHERE子句中搜索列中的指定模式。通常與LIKE運算符一起使用的有兩個通配符: 百分號 % 代表零個、一個或多個字元。 下劃線 _ 代表一個單個字元。 以下是LIKE運算符的用法和示例: 示例 選擇所有以字母 "a" 開頭的客戶: SELECT * FROM Cust ...
  • 1. 資料庫文件組成 主數據文件 主要數據文件的建議文件擴展名是 .mdf。 主要數據文件包含資料庫的啟動信息,並指向資料庫中的其他文件,存儲部分或全部的數據。用戶數據和對象可存儲在此文件中,也可以存儲在次要數據文件中。 每個資料庫有一個主要數據文件。 mdf文件並非普通文件,因此不藉助相應軟體是無 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...