【案例】星環科技×某能源企業:數據中台實踐

来源:https://www.cnblogs.com/Transwarp/archive/2022/10/20/16810654.html
-Advertisement-
Play Games

某能源企業成立於2008年,是成品油銷售領域的龍頭企業(以下簡稱“A企業”),由中外合資設立。A企業立足於陝西省及周邊地區,重點開展加油站運營管理及相關業務。目前在陝西、山西、河南、內蒙古自治區運營油站超過600座,會員超過600萬,每天為超過22萬名顧客提供高品質的燃油服務。 ...



  案例企業     某能源企業成立於2008年,是成品油銷售領域的龍頭企業(以下簡稱“A企業”),由中外合資設立。A企業立足於陝西省及周邊地區,重點開展加油站運營管理及相關業務。目前在陝西、山西、河南、內蒙古自治區運營油站超過600座,會員超過600萬,每天為超過22萬名顧客提供高品質的燃油服務。   作為中外合資的混合所有制改革樣板,A企業通過市場化改革適應了國際、國內市場競爭,並積極應用數字化、智能化新技術,建設幾十個信息系統,取得了一系列重要成果,積累了大量實踐經驗。   業務挑戰   在數據使用過程中,A企業發現多個問題。   以油站運營為例:站長日常需要關註油站註冊用戶數、活躍用戶數、會員加油頻率、單筆消費金額、會員消費粘性等數據指標,但沒有一個統一平臺進行用戶數據的展現。此外,日常數據分析成本高、效率低,業務人員通過業務系統導數+Excel的半手工方式進行分析,需要自動化工具將業務人員從低效的工作中解脫出來。   造成數據使用問題多的原因可總結為以下幾點:     第一,業務環節缺少體系化串聯。業務各個環節沒有深入的數據分析支撐,客戶洞察難度大,無法判斷哪些是高價值客戶、哪些客戶有流失傾向,數據價值難呈現,需要通過建設業務體系,例如閉環營銷體系、會員管理體系、異業合作體系等,將各個環節的業務串聯起來,形成合力。   第二,數據不統一、缺乏標準。系統間數據不一致,數據交叉,數據流向複雜。例如,早期油站系統建設時,受到數據傳輸能力的限制,只能上傳彙總數據,明細數據則存儲在雲上。彙總數據依賴於人工操作,導致彙總數據和明細數據之間存在差異。因此,需要制定數據標準,設計整體的數據架構,形成統一數據模型。   第三,缺少數據服務體系。數據服務的提供效率與業務訴求不匹配,需要形成數據服務生成體系,避免重覆開發。   第四,未形成數據資產化。數據未資產化管理,數據使用問題多,需要形成數據資產目錄。   第五,存在數據孤島。主數據散落在多個系統中,存儲計算結構複雜,需要整合企業內部和外部的數據,統一存儲避免差異,並從業務視角重新組織。   解決方案       為解決業務技術痛點,A企業與星環科技達成合作,旨在打造平臺、管理、應用並重的數據中台。   數據中台建設並非一蹴而就,需要一個長期的過程,在星環科技的建議下,A企業採用小步快跑模式,在加強基礎能力建設的同時,推動重點業務數據價值探索,按需建設。     A企業數據中台建設規劃分為三個階段:   第一階段:重點探索。完成數據平臺搭建,進行數據資產管理運營,融合各系統數據,並以最迫切、價值最高的業務應用為出發點,在數據中台探索如何實現,並形成數據敏捷開發機制。   第二階段:內部賦能。將第一階段探索的成果推廣到企業內部的其他業務部門和管理部門,促進數據與業務的進一步融合,初步形成大數據應用生態。   第三階段:生態合作。通過持續運營數據中心服務能力,形成生態化數字平臺方案產品,建立健全業務需求識別機制,實現應用生態百花齊放,讓數據產生價值。   根據三步走的建設規劃,數據中台的目標是搭建三大平臺,推動數業融合,將原有“數據孤島”、“煙囪式”的數據存儲和開發工作,納入到規範化、標準化、資產化的軌道上,做到統一入口、統一齣口、集中管理、高效服務。三大平臺包括:   • 數據整合平臺:通過對數據進行集中採集、存儲、計算、加工,形成統一標準和加工口徑,通過數據整合確保數據一致性。   • 業務應用平臺:沉澱共性數據能力,構建數據產品服務,提供數據、分析服務的共用開放和機制能力,賦能業務。   • 數據探索平臺:針對特定場景挖掘研究、AI專題分析,深入洞察業務,最大化實現數據價值。     搭建三大平臺需要邁過“六層臺階”:數據平臺建設、數據採集、數據管理、數據展現、業務支撐和數據探索其中數據整合平臺搭建後可以邁過前三層臺階,業務應用平臺搭建後可以邁過第四、五層臺階,數據探索平臺搭建後則可以邁過最後一層臺階。   從架構上看,數據中台整體架構分為數據中心、業務中心、統一介面、業務展現四個邏輯模塊:   數據中心將各個數據源的數據接入後,通過ETF對數據進行清洗、整合、加工,並以工作流的方式進行管理。在數據平臺之上構建數據集市,支持數據查詢、數據探索、人工智慧等方式的數據使用,並提供平臺管理和數據管理能力。   業務中心對各個業務部門的業務場景進行抽象提煉,例如市場部、運營部、大客戶部都需要進行客戶分析,市場部、非油部、運營部都需要精細化運營分析等,基於業務場景拆解分析方法,包括BI維度分析、自助式分析、人工智慧分析等。   經過數據中心和業務中心的處理,將有價值的信息通過統一介面對外輸出,並以可視化方式進行業務。       從數據流轉生命周期的角度看,數據中台體系架構可分為數據供給、數據加工&數據治理、數據服務和數據消費四個環節。       其中,數據加工&治理作為核心環節,數據中台採用離線和實時計算存儲平臺,採集內部外全域數據,按照明細程度進行分層,按照業務主題進行分類,從橫向和縱向出發將原本分散孤立的數據組織和統一起來。   操作數據層是原系統數據在數據中台的落地,明細數據層保留最詳細力度的數據,將各個系統相同主題的數據歸類存放,包括客戶、油站、交易、營銷、供應鏈、安全、財務、人力等主題。同時,根據數據使用的作用劃分維度和事實,包括員工維度、交易事實、人力事實等,將數據歷史通過事務事實、周期快照事實、累計快照事實等方式進行保留。將相同主題整合到同一個業務域,例如將員工、交易和人事組合為人力資源域,可以支持HR業務域所有基礎數據的需求。   彙總指標層對數據進行輕度彙總,主要用於加工常用和共性指標,客戶指標例如客戶月交易頻次、客戶常去的油站等,銷售指標包括分油品銷量、分客戶類型銷量等,營銷指標包括促銷金額、促銷費用等。   應用數據層根據業務需求,對數據進行深度彙總,組合為具有強烈業務指向的指標和應用,包括駕駛艙、運營日報、會員運營、油站運營、投資回報、定價分析、零售分析、靈活分析等。   數據在各層次不斷上捲的過程中,一方面需要保證數據始終處於良好的數據管理之下,包括元數據管理、數據質量管理、數據資產目錄管理等,保證數據安全;另一方面資產也需要分析、應用、優化和持續運營。   對於探索性、研究性場景,使用AI模型分析,例如客戶分群、客戶流失、異常交易、油站安全風險評估等,同時還支持指標、營銷、客戶標簽、財務管理等API類的服務。數據在服務過程基於開發平臺處理,遵循開發規範。   這種數據架構下的中台具有穩定和健壯的特點,能夠通過抽象出來的能力為快速變化的業務賦能。   在數據採集方面,數據中台採集各業務系統數據,數據類型包括結構化數據和半結構化數據,結構化數據包括Oracle、SqlServer、Hadoop、微軟雲等,通過星環科技Transporter工具進行採集,保證數據及時準確無誤接入數據中台;對於半結構化數據,採用Shell/Java/Python腳本的方式解析數據入庫。     在數據治理方面,基於對數據特性差異的分析,將數據分為基礎數據、指標數據和外部數據,並對每類數據源進行數據資產盤點,制定每類數據資產目錄,編製數據標準,構建統一標準的數據模型,形成可持續的運營方案。數據資產目錄可以提供快速瞭解數據和業務的藍圖,為業務人員和分析人員提供備查的數據索引。     在團隊保障方面,A企業和星環科技全力配合、雙向協作,星環科技作為供應商將項目組成員分為項目管理、數據智能、數據架構、技術架構和產品實施,同時配備專家組,全力支持A企業數據中台建設。   ​   A企業數據中台項目從2019年10月開始,經過兩期項目,數據中台初步形成了統一數據入口、統一基礎模型、統一數據管理、統一展示出口的數據整合平臺、業務應用平臺、數據探索平臺,面向管理層、業務運營層和一線油站提供KPI指標預警、多項專題類應用和數據類報表服務,充分發揮大數據對內運營的支撐作用,全面提升A企業精細化運營能力和效益分析能力。   數據中台在A企業內部的典型應用場景如下:   業務應用一:領導駕駛艙   基於業務痛點和管理層需求,為不同部門定製開發駕駛艙,例如運營部門關心油站的銷量、車次、單價等,安全部門關心油站的月檢、周檢、視頻檢查等。   通過聚合各平臺的數據資源,實現技術和業務的深度融合,通過數字化平臺保障支撐,快速反映KPI指標運營趨勢,為管理層決策提供數據依據。     業務應用二:油站運營   油站的零售運營涉及管理層、業務區域運營層和一線油站經理,不同層級的人員有不同的運營需求。但不同地區、不同類型的油站都獨立運營,缺乏統一的數據統計口徑和數據標準,油站運營狀況缺乏快速敏捷的分析支撐能力和有效的上下傳導管理機制。   通過油站運營分析,整合公司油站的運營數據,並統一數據標準,提供各項運營指標查詢監控、數據類靈活多維分析報表服務,發揮大數據對內運營支撐作用,全面提升油站的精細化運營能力和效益分析能力。   ​   業務應用三:會員運營   對於會員分群,通過使用RFM模型,利用AI演算法對會員生命周期、會員用戶狀態、會員價值進行探索和分析,區分各個價值類型、各種活躍程度的客戶,從而有效制定營銷策略,提升客戶價值。     會員標簽體系包括會員信息、會員油品交易信息、會員非油交易信息,通過建立會員標簽體系,可以分析不同地域會員的特征,針對不同會員採取定製化的營銷方案與服務。     業務應用四:財務管理   財務管理涉及利潤分析、銷售定價分析和財務合規分析,利用數據中台數字化、自動化、智能化的優勢,可以快速支撐財務部門進行利潤計算、財務對賬和財務合規分析,提高財務部門的工作效率,並有效規避財務風險。     業務應用五:異常交易識別   通過對指標的拆解和處理,構建異常交易模型,識別異常交易。過去人工判斷的異常交易準確率在15%左右,異常交易模型將準確率提升到60%-80%,幫助企業輓回一定損失。     業務應用六:油站安全管理   加油站是易燃易爆場所,安全事故一旦發生會造成很大損失,因此油站安全管理尤為重要。數據中台對油站的安全管理分為兩部分:   一是對現有數據的統計分析,可視化展示各個油站的安全狀況,例如本年累計維修保養次數、油站設備使用時間、本月安全隱患提交次數等,實現油站風險可視化展示與跟蹤。     二是通過AI模型對油站安全風險進行評分,分為高中低三類,使業務人員重點關註風險較高的油站,解決人站不匹配問題。   ​   價值與效果     數據中台持續為A企業各個層面帶來切實收益,具體來看:   第一,落實公司數字化戰略,探索未來數據發展方向。數據統計工作從最初繁瑣、易錯的依靠人工上報的形式到系統登錄數據中台,不同角色可以看到不同的界面及數據,數據使用更加方便、快捷、準確。   第二,數據打通融合,為油站運營提供全方位支撐。數據中台打破數據孤島,提供全方位數據支持,保證油站管理高效運轉。   第三,提升分析成果共用能力和分析效率。從直接在各自生產系統上下載客戶或財務賬目明細數據進行分析計算,到不同系統數據匯聚到數據中台,結合不同系統數據綜合分析。   第四,豐富數據應用場景,降低人力成本。原來每個部門需要配備多人專門負責數據彙總呈現,現只需1人,節省了人力成本,業務部門也可將有限的人員和精力投入到最需要的地方和環節。     從業務的數據使用角度看,數據中台實現三方面的效益:   第一,數據中台對數據進行統一的沉澱處理,當其他系統需要時,可直接對外提供,避免重覆開發,業務人員從一個入口就可以看到所有需要的數據。     第二,業務功能按不同角色進行梳理和劃分,開發出符合業務人員自身特點的操作流程,讓每個使用者都切身感覺到數據中台是為其專人服務的。     第三,業務人員可以根據實際的使用場景選擇相對應的展現方式,支持手機、電腦、平板等多個終端便捷查詢。     經驗借鑒     幫助業務是數據工作的出發點和落腳點,數據中台項目的規劃和設計必須結合業務考慮,同時提升業務的數據意識,實現數據和業務雙向正反饋,共同達到業務目標。   A企業數據中台項目順利落地的關鍵成功要素有以下四點:   第一,領導支持是成功的保證。高層領導的戰略引領、信息部門領導的統籌佈局、業務部門領導的積極配合對於數據中台項目而言缺一不可。   第二,提升業務的數據意識。企業需要在全司形成使用數據解決問題和分析問題的氛圍,項目開展初期可以通過宣講等多種形式讓業務人員意識到數據工作的重要性以及當前所處階段和難點。當數據項目到後期,業務人員已經習慣於數據中台提供的服務後,要避免成為業務的取數工具人,而是為業務進行賦能。   第三,選擇合適切入點開展工作。各部門都有不完全相同的數據需求,無法一次性滿足所有業務部門的需求,可以優選選擇1-2個重要且有影響力的業務場景進行切入,爭取業務人員的理解和支持。成功實現了1-2個場景案例後,項目壓力減輕,方便後續工作的開展。   第四,小步快跑、持續迭代。項目對效率的要求高,投產上線周期快,針對項目進行敏捷開發,實現小步快跑、迭代開發和迴圈演進。   ​  
您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • logrotate: logrotate 程式是一個日誌文件管理工具。用來把舊的日誌文件刪除,並創建新的日誌文件,稱為日誌轉儲或滾動。 作用: 可以根據日誌文件的大小,也可以根據其天數來轉儲,這個過程一般通過 cron 程式來執行 logrotate 相關文件: 計劃任務:/etc/cron.dai ...
  • loganalyzer: loganalyzer是用 php 語言實現的日誌管理系統,可將MySQL資料庫的日誌用豐富的WEB方式進行展示 官網:https://loganalyzer.adiscon.com 環境準備: 日誌客戶端:10.0.0.12 日誌伺服器:10.0.0.11 資料庫伺服器: ...
  • 如何修改屏幕解析度?switchresx mac是一款Mac上實用的屏幕解析度修改工具,快速的幫助您更改Mac顯示屏的解析度。操作界面簡單,採用嵌套的上下文菜單管理,更加方便您控制修改解析度的尺寸。 詳情:SwitchResX for Mac(屏幕解析度修改工具) 功能介紹 1、偏好窗格 switc ...
  • log-Client:10.0.0.12 log-Server:10.0.0.11 mysql:10.0.0.13 實現步驟: 啟用網路日誌服務的配置: https://www.cnblogs.com/heyongshen/p/16808684.html 1.在rsyslog伺服器上安裝連接mysq ...
  • 想要一款圖像調色軟體?小編為大家推薦Image 2 LUT Pro Mac版,一款專業的圖像調色小工具。Image 2 LUT Pro Mac版提供了一些非常有用的選項。除了著色的一般強度,您還可以控制其對圖像中膚色的影響。Image 2 LUT Pro Mac不需要專業的調試技術,幾個簡單的步驟就 ...
  • Linux下載安裝jdk1.8 一、下載 wget --no-check-certificate --no-cookies --header "Cookie: oraclelicense=accept-securebackup-cookie" http://download.oracle.com/o ...
  • rsyslog 系統日誌服務 rsyslog服務是CentOS 6 以後版本的系統日誌管理服務。 特點: 性能高、安全性好、基於模塊化設計 官方網站: https://www.rsyslog.com/ rsyslog系統日誌術語 facility:設施,從功能或程式上對日誌進行歸類 Priority ...
  • 什麼是資料庫事務? 事務,就是一系列操作的整體,其結果就是這一系列操作要麼全部成功,要麼全部失敗。 譬如說,一個經典的例子--轉賬。 A要轉帳給B 100塊錢,要經歷以下步驟: 1、扣除A賬戶100塊錢。 2、增加B賬戶100塊錢。 以上例子里的兩個步驟,要麼全部成功,要麼全部失敗,不然,就亂套了。 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...