TDengine 用戶案例合集 | 智能環保項目的時序數據處理難點與優化實踐

来源:https://www.cnblogs.com/taosdata/archive/2023/09/21/17720059.html
-Advertisement-
Play Games

智能環保系統通常涉及大量的感測器和監測設備,以收集環境數據並對其進行分析和處理,這些數據通常是時序數據,即在一段時間內按時間順序生成的數據,規模龐大且要求快速準確地進行分析和處理。也因此時序數據處理是智能環保系統面臨的一個重要難題,很多項目在創建之初採用了傳統的大數據解決方案,隨著數據體量的日益增長 ...


智能環保系統通常涉及大量的感測器和監測設備,以收集環境數據並對其進行分析和處理,這些數據通常是時序數據,即在一段時間內按時間順序生成的數據,規模龐大且要求快速準確地進行分析和處理。也因此時序數據處理是智能環保系統面臨的一個重要難題,很多項目在創建之初採用了傳統的大數據解決方案,隨著數據體量的日益增長,性能差、效率低、成本高等問題逐漸顯露。在本篇文章中,我們彙總了三個典型的智能環保項目的數據架構升級實踐,給到有需要的企業參考。

中科惠軟 x TDengine

“以往智慧環保項目我們採用傳統資料庫架構設計,對在海量秒級監測數據實時統計和分析耗時長、CPU 和記憶體利用率低、磁碟 IO 超負荷。在 A 市智慧環保物聯網應用項目我們創新使用了 TDengine,利用了實時流式計算相關函數,解決了大數據存儲和計算,降低了代碼開發複雜度,讓運維工作變得極為簡單,極大降低了運營成本。”

業務背景

中科惠軟承建的 A 市“智慧環保”物聯網應用項目需要採集各類感知設備產生的監測數據和監控設備各種運行狀態,項目每天採集各類監測數據 2 億餘條,如果使用公司原架構,可以勉強將每天的數據存儲下來,但如果需要實現“某天下午兩點 A 路段有多少輛渣土車通過”類似條件的多緯度分組聚合查詢,那麼採用傳統的資料庫就無法達成這類查詢需求了。考慮到各類感知監測設備會時刻產生大量秒級和分鐘級監測數據存儲和實時計算,在經過多個時序資料庫Time Series Database)之間的性能和穩定性方面對比,最終,中科惠軟採用了 TDengine 對生態環境監測數據進行實時存儲、計算。

中科惠軟選型測試結果

TDengine 用戶案例合集 | 智能環保項目的時序數據處理難點與優化實踐 - TDengine Database 時序資料庫

點擊案例查看更多技術細節

昆岳互聯 x TDengine

“應用 TDengine 後,在進行每分鐘的平均量進行實時計算時,我們只需要簡單的定義時間視窗和滑動增量,資料庫就能返回每分鐘的平均量;在處理實時監測、預警的指標上,可以專門為這類數據建立流計算,並將計算結果寫入新的表(如下strm_pt_0304)中存儲,這樣整個實時計算的結果也可以做歷史回顧。原本很多需要在程式中處理的數值計算,現在完全都由 TDengine 承擔,不僅分擔了程式的計算壓力,更重要的是聚合結果可以自動持久化存儲,支持歷史數據即時回看。”

業務背景

昆岳互聯的“a 環保”APP 基於自主打造的環保產業互聯網平臺(INECO 平臺),對環境基礎設施海量數據實時處理與分析,可以秒級實時採集工業大氣環保各項監控指標的數據,分別通過年、月、日三個維度,結合不同的採集頻率周期,對採集到的海量數據進行分析、展示。在進行資料庫選型中,分別對比了阿裡的時序資料庫 TSDB、傳統的 MySQL 以及 TDengine 後,最終 TDengine 憑藉著高效的性能和獨特的設計思路脫穎而出。

架構圖

TDengine 用戶案例合集 | 智能環保項目的時序數據處理難點與優化實踐 - TDengine Database 時序資料庫

點擊案例查看更多技術細節

廣東環境科學研究院 x TDengine

“我們的一張超級表中存儲了 76.5 億條數據(四張超級表總共 160 億條數據),分散在 19,419 張子表中,平均每張表 39 萬行。由於 TDengine 超級表特性,再加上列式存儲和超高的壓縮能力,這些數據僅占用了 240GB 記憶體,不僅幫助我們節省了大量的存儲空間,也為數據查詢性能打下了良好的基礎:對於 76 億行的超級表,分組 TOP 查詢僅用了 0.2 秒;基於 TDengine 返回 2,968 行,僅用了 0.06 秒。”

業務背景

為解決國內環境質量管理、污染源監管和數字政府等生態環境數據的管理工作,廣東科學研究院創建了生態環境數據治理服務項目,幫助企業打通所有相關的業務信息系統、建立數據倉庫。與一般的數據存儲要求不同,該項目感知層的存儲方案對數據讀寫頻度和低延時要求更高,同時由於數據量極大,還需要更高的存儲效率,此前採用關係型資料庫進行數據存儲,最多只能保留 3-5 天的數據,不得不按天刪除舊數據。之後考慮過採用 PostgreSQL 的 TimescaleDB 擴展,但卻不滿足政務信息化自主可控的要求。在經過很長一段時間的研究和測試後,TDengine 被成功應用。

架構圖

TDengine 用戶案例合集 | 智能環保項目的時序數據處理難點與優化實踐 - TDengine Database 時序資料庫

點擊案例查看更多技術細節

結語

從上述企業實踐來看,TDengine 在智能環保項目上的應用具有很大的優勢,可以實現高效的數據採集、存儲、分析和展示等功能,為環保系統提供有力的技術支持。目前,全托管的時序數據云服務平臺 TDengine Cloud 也已經上線,極致的彈性伸縮能進一步提升業務的降本增效,非常歡迎大家來試用~如果你正面臨數據處理難題,也可添加小Tvx(tdengine),申請加入 TDengine 技術交流群,和志同道合的開發者共同探討解決路徑。


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • shell批量執行命令與文件傳輸腳本 需求: 對未進行主機信任操作的伺服器進行批量操作 實現: 由於ssh只能在交互模式中輸入伺服器密碼進行登錄登操作,不便於進行大批量伺服器進行巡檢或日誌採集。sshpass恰好又解決了這個問題,使用ssh -p passwd可以實現命令行輸入密碼操作,便於進行規模 ...
  • 一、目錄介紹 /:表示的是根的意思 /bin:(binary)存放的是一些二進位文件,但是在Linux中二進位文件是可以被執行的。這個目錄中的命令文件是給普通用戶使用(非超級管理員用戶)。 /etc:Linux下所有的配置文件都會存放到etc目錄。 /home:是所有非root用戶家目錄的一個集合。 ...
  • 測試伺服器CPU單核及多核SuperPI圓周率測試real和user值,SuperPI是利用CPU的浮點運算能力來計算出π(圓周率),測試系統穩定性和測試CPU計算完後特定位數圓周率所需的時間;及Unixbench單核及多核測試Index得分,測試方法如下: 類型 預期結果 測試步驟 SuperPI ...
  • 可擴展性對於物聯網管理系統的設計和開發非常重要,它直接影響著系統的性能、可靠性和能耗等方面,是評估一個系統優劣的重要因素之一。可擴展性對物聯網管理系統的影響主要體現在以下幾個方面: ...
  • 1. 為什麼需要加鎖 在日常生活中,如果你心情不好想靜靜,不想被比別人打擾,你就可以把自己關進房間里,並且反鎖。這就是生活中的加鎖。 同理,對於MySQL資料庫來說的話,一般的對象都是一個事務一個事務來說的。所以,如果一個事務內,一個SQL正在更新某條記錄,我們肯定不想它被別的事務影響到嘛?因此,數 ...
  • GraphiteMergeTree該引擎用來對Graphite數據(圖數據)進行瘦身及彙總。對於想使用ClickHouse來存儲Graphite數據的開發者來說可能有用。 如果不需要對Graphite數據做彙總,那麼可以使用任意的ClickHouse表引擎;但若需要,那就採用GraphiteMerg ...
  • 作者 | 代立冬 編輯 | Debra Chen Apache DolphinScheduler 是現代數據工作流編排平臺,具有非常強大的可視化能力,DolphinScheduler 致力於使數據工程師、分析師、數據科學家等數據工作者都可以簡單輕鬆地搭建各種數據工作流,讓數據處理流程更簡單可靠。 D ...
  • S3File 是一個用於管理 Amazon S3(Simple Storage Service)的 Python 模塊。當前,Apache SeaTunnel 已經支持 S3File Sink Connector,為了更好地使用這個 Connector,有必要看一下這篇使用文檔指南。 描述 將數據輸 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...