帶你認識數倉的監控系統TopSQL

来源:https://www.cnblogs.com/huaweiyun/archive/2023/08/04/17605335.html
-Advertisement-
Play Games

TopSQL為DWS的監控系統,記錄DWS中各個作業、運算元級別的資源使用數據、耗時數據,包括下盤信息、記憶體、網路、耗時、警告、基礎信息等作業執行的數據。 ...


本文分享自華為雲社區《GaussDB(DWS)TopSQL總結》,作者:nullptr_ 。

TopSQL 背景

TopSQL為DWS的監控系統,記錄DWS中各個作業、運算元級別的資源使用數據、耗時數據,包括下盤信息、記憶體、網路、耗時、警告、基礎信息等作業執行的數據。

TopSQL 簡介

TopSQL分為實時表和歷史表,實時表主要展示系統當前的負載情況,歷史表主要用於存儲作業執行的歷史情況。歷史表主要用於歷史問題的分析回溯和問題定位、實時表主要用來展示當前系統中作業執行情況,讓系統現場更加直觀,為運維工作帶來了極大的方便。

TopSQL 功能介紹

主要視圖

前提條件(參數介紹)

  • enable_resource_track topsql開關,是否開始topsql功能
  • resource_track_level 設置監控級別,query:類似於sql的explain輸出信息,perf:類似於explain analyze輸出信息,operator_reltime: 統計實時運算元信息,operator:詳細記錄到每個運算元的執行信息,並且層級為向下相容 query->perf->operator_reltime->operator
  • resource_track_cost topsql追蹤執行時間大於等於resource_track_cost 的作業
  • enable_track_record_sql 控制是否記錄存儲過程、匿名塊內部的語句
  • enable_track_record_subsql 控制是否記錄存儲過、匿名塊內部語句
  • resource_track_subsql_duration 過濾執行時間小於resource_track_subsql_duration的語句

欄位含義介紹(重點功能作用)


類型介紹

 

值異常分析

當作業因為異常例如某DN掛了,作業會重新開始,topsql會記錄兩條記錄

TopSQL 重點邏輯梳理剖析

在DN通過打樁定期記錄作業的實時信息,並將記錄定期發送至CN,並將信息定期存儲至實時表中pgxc_wlm_session_statistics中,並定時將實時表中的作業落盤到歷史表中pgxc_wlm_session_info中,此過程為了減少阻塞將記錄放到無鎖隊列中,無鎖隊列提供了記錄的CAS原子操作,然後定期讀取無鎖隊列中的內容進行轉儲,pgxc_wlm_session_info通過start_time進行分區,每天一個分區,通過參數topsql_retention_time配置預設保留30個分區即30天的記錄,定期對pgxc_wlm_session_info的分區進行清理、創建。此過程在dws中有單獨的線程運行,對系統的影響較小。無鎖隊列大小是有上限的,如果轉儲處理的速度趕不上生成的速度那麼作業也會被丟棄。

歷史

當前pgxc_wlm_session_history只包含最近3分鐘的數據且數據來源實際是pgxc_wlm_session_info。

點擊關註,第一時間瞭解華為雲新鮮技術~

 

 


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • # ipset、iptables快速使用 ##### 1. 直接來看一條命令 ```sh sudo ipset add myset_name 127.0.0.1 # 本條命令的意思是:在名為 myset_name 的一個集合中 添加(add)一條地址為127.0.0.1的ip sudo ipset ...
  • # mysql源代碼編譯安裝(可自擬版本) centOS7 mysql5.6.40為例 ## 準備 關閉防火牆的條件下 1.yum安裝 ``` yum install ncurses-devel libaio-devel gcc make cmake -y ``` 2.rpm查詢一下 ``` rpm ...
  • 1、Linux下本地yum源配置 本地yum源依賴於python解析,首先要確保系統的python和yum源安裝完成 1.1、本地yum源配置及掛載 上傳ISO鏡像或使用本機鏡像,使用mount命令掛載鏡像到/dev/loop0設備文件(用於模擬塊設備) mount /dev/loop0 /opt/ ...
  • 適用Linux所有版本,就是命令不一樣,我以Ubuntu為例,命令使用的也是Ubuntu的。 sudo apt-get install bcmwl-kernel-source #Broadcom 802.11 Linux STA 無線驅動源 sudo apt-get install broadcom ...
  • 1.確認nginx是否已安裝SSL模塊 查驗方法:進入sbin目錄,執行以下語句,顯示結果如標記所示則表示安裝成功 ./nginx -V 2.確認系統以安裝SSL工具,開始製作證書 選擇一個存放證書的路徑,執行以下語句即可: (1)生成密鑰,得到文件private.key openssl genpk ...
  • ![](https://img2023.cnblogs.com/blog/3076680/202308/3076680-20230803123612359-1050633424.png) # 1. 問題9 ## 1.1. 只講授一門課程的教授 ## 1.2. sql ```sql select p. ...
  • **原文鏈接:** [使用 RediSearch 在 Redis 中進行全文檢索](https://mp.weixin.qq.com/s/X1qKL0jMaklGw6GLcrkp2g) Redis 大家肯定都不陌生了,作為一種快速、高性能的鍵值存儲資料庫,廣泛應用於緩存、隊列、會話存儲等方面。 然而 ...
  • #### 第3句 今日流失用戶 ##### 需求: 當日流失用戶的定義:昨天登錄的,今天沒登錄的用戶數 有一張用戶登錄日誌表,有欄位 date_stamp(日期時間戳),用戶id(uid)。如果用戶在某天登錄了,該表會有一條記錄。 ``` #今天流失人數:昨天登錄,今天沒登錄的 select a.d ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...