從SpringBoot構建十萬博文聊聊Tomcat集群監控

来源:https://www.cnblogs.com/smallSevens/archive/2019/09/09/11487757.html
-Advertisement-
Play Games

前言 在十萬博文終極架構中,我們使用了Tomcat集群,但這並不能保證系統不會出問題,為了保證系統的穩定運行,我們還需要對 Tomcat 進行有效的運維監控手段,不至於問題出現或者許久一段時間才知道。凌晨一點這個鍋可誰都不想背,為此基於目前的情況搭建了以下這麼一套監控預警系統。 架構圖 相關軟體 N ...


前言

在十萬博文終極架構中,我們使用了Tomcat集群,但這並不能保證系統不會出問題,為了保證系統的穩定運行,我們還需要對 Tomcat 進行有效的運維監控手段,不至於問題出現或者許久一段時間才知道。凌晨一點這個鍋可誰都不想背,為此基於目前的情況搭建了以下這麼一套監控預警系統。

架構圖

相關軟體

  • Nginx:代理訪問 Grafana
  • Grafana: 可視化面板(Dashboard),有著非常漂亮的圖表和佈局展示
  • Influxdb:開源的時間序列資料庫,適用於記錄度量,事件及執行分析
  • Telegraf:收集系統和服務的統計數據
  • Docker:開源的應用容器引擎,讓開發者可以打包他們的應用以及依賴包到一個可移植的容器中

監控架構

GTI監控預警系統,架構流程說明:

  • 第一步:數據採集,Telegraf 採集 Tomcat 相關參數數據
  • 第二步:數據存儲,Influxdb 存儲 Telegraf 採集的數據
  • 第三步:數據可視化,Grafana 配置 Tomcat 監控面板
  • 第四步:預警通知,配置釘釘、郵件等預警

安裝配置

這裡只對Grafana、Telegraf、Influxdb、Tomcat 做相應的安裝說明,Nginx 以及 Docker 請自行查閱資料。

Grafana

Grafana只是一個接入數據源的可視化面板,這裡為了方便,我們選擇Docker安裝。

mkdir grafana
ID=$(id -u)
docker run -d --user $ID --name=grafana  --volume "$PWD/grafana:/var/lib/grafana" -p 3000:3000 grafana/grafana
# 如果生產環境配置,最好提前配置好功能變數名稱
docker run -d --user $ID --name=grafana --volume "$PWD/data:/var/lib/grafana" -p 3000:3000 -e "GF_SERVER_ROOT_URL=http://monitor.52itstyle.vip" grafana/grafana

執行成功以後,執行以下命令:

docker ps

如果出現grafana運行容器說明安裝成功。

查看容器相關參數:

docker inspect docker.io/grafana/grafana

進入:

docker exec -it grafana /bin/sh

Grafana的預設配置文件grafana.ini位於容器中的/etc/grafana,這個文件是映射不出來的。不過可以先創建並運行一個容器,拷貝出來重新創建運行容器。

參數說明(這裡截取了部分重點參數):

##################### Grafana 幾個重要的參數(參考一下) #####################
[paths]
# 存放臨時文件、session以及sqlite3資料庫的目錄
;data = /var/lib/grafana

# 存放日誌的地方
;logs = /var/log/grafana

# 存放相關插件的地方
;plugins = /var/lib/grafana/plugins

#################################### Server ####################################
[server]
# 預設協議 支持(http, https, socket)
;protocol = http

# 預設埠
;http_port = 3000

# 這裡配置訪問地址,如果使用了反向代理請配置功能變數名稱,發送告警通知的時候作為訪問地址
root_url = http://grafana.52itstyle.vip

#################################### Database ####################################
[database]

# 預設使用的資料庫sqlite3,位於/var/lib/grafana目錄下麵
;path = grafana.db

#################################### Session ####################################
[session]
# session 存儲方式,預設是file即可  Either "memory", "file", "redis", "mysql", "postgres", default is "file"
;provider = file

#################################### SMTP / Emailing ##########################
[smtp]
# 郵件伺服器配置,自行修改配置
enabled = true
host = smtp.mxhichina.com:465
user = [email protected]
# If the password contains # or ; you have to wrap it with trippel quotes. Ex """#password;"""
password = 123456
;cert_file =
;key_file =
;skip_verify = false
from_address = [email protected]
# 這裡不要設置中文,否則會發送失敗
from_name = Grafana

Influxdb

創建並運行容器

docker run -d -p 8083:8083 -p 8086:8086 -e ADMIN_USER="root" -e INFLUXDB_INIT_PWD="root" -e PRE_CREATE_DB="telegraf" --name influxdb tutum/influxdb:latest

各個參數含義:

-d:容器在後臺運行

--name:容器名稱

-e:指定環境變數,容器中可以使用該環境變數 

-p:將容器內埠映射到宿主機埠,格式為 宿主機埠:容器內埠;8083是influxdb的web管理工具埠,8086是influxdb的HTTP API埠

執行成功以後,執行以下命令:

docker ps

如果出現influxdb運行容器說明安裝成功。

訪問地址:http://ip:8083/

Telegraf

docker pull telegraf

把telegraf相關配置拷貝到宿機

docker cp telegraf:/etc/telegraf/telegraf.conf ./telegraf

採集Tomcat數據:

如果想監控多個Tomcat,這裡配置多個[[inputs.tomcat]]即可,但是一定要配置不同的tags標識。

[[inputs.tomcat]]
url = "http://192.168.1.190:8080/manager/status/all?XML=true"
# Tomcat訪問賬號密碼 必須配置
username = "tomcat"
password = "tomcat"
timeout = "5s"
# 標識Tomcat名稱、根據實際項目部署情況而定
[inputs.tomcat.tags]
host = "blog"

[[inputs.tomcat]]
url = "http://192.168.1.190:8081/manager/status/all?XML=true"
# Tomcat訪問賬號密碼 必須配置
username = "tomcat"
password = "tomcat"
timeout = "5s"
# 標識Tomcat名稱、根據實際項目部署情況而定
[inputs.tomcat.tags]
host = "bbs"

採集數據到influxdb:

[[outputs.influxdb]]
      # urls = ["udp://localhost:8089"] # UDP endpoint example
      urls = ["http://localhost:8086"] # required,這個url改成自己host
      ## The target database for metrics (telegraf will create it if not exists).
      database = "telegraf" # 這個會在influx庫創建一個庫

把配置文件複製到容器:

docker cp telegraf.conf telegraf:/etc/telegraf/telegraf.conf

重啟telegraf服務:

docker restart docker

Tomcat

由於telegraf收集Tomcat相關數據需要配置訪問許可權,這裡我們選擇Tomcat7做配置說明。

修改位於conf下的tomcat-users.xml文件:

<tomcat-users>
<user username="tomcat" password="tomcat" roles="manager-gui,manager-script,manager-jmx,manager-status"/>
</tomcat-users>

重啟Tomcat容器,訪問以下地址:

http://ip:8080/manager/status/all?XML=true

如果出現以上界面,說明配置成功。

監控配置

依次啟動Tomcat、Influxdb、Telegraf、Grafana完成後,我們進入Grafana後臺管理進行相關配置。

配置Influxdb數據源:

選擇 datasources/Add datasource

輸入正確的HTTP地址以及資料庫賬號密碼,點擊保存,如果出現綠色提示框,說明配置成功。

配置Tomcat儀錶盤:

選擇 dashboard/import

這裡有三種方式導入面板:

  • 選擇輸入官方面板ID或者URL
  • 直接複製黏貼JSON格式代碼
  • 導入第三方面板JSON格式文件

這裡我們導入事先自己定製保存的Tomcat監控面板,最後點擊導入保存。

如果不出意外,將會是下圖的樣子。

告警配置

前期做了這麼多,我們的最終目的是為了提前預警通知,在系統即將發生災難之前作出相應的準備調整。這裡我們以Tomcat的線程數量閾值作為預警通知。

點擊線程面板-選擇編輯:

配置相關參數:

1、Alert名稱,可以自定義。
2、執行的頻率,這裡我選擇每60s檢測一次。
3、判斷標準,預設是avg,這裡是下拉框,自己按需求選擇。
4、query(A,5m,now),字母A代表選擇的metrics中設置的sql,也可以選擇其它在metrics中設置的,但這裡是單選。5m代表從現在起往之前的五分鐘,即5m之前的那個點為時間的起始點,now為時間的結束點,此外這裡可以自己手動輸入時間。
5、設置的預警臨界點,這裡手動輸入,和6是同樣功能,6可以手動移動,兩種操作是等同的。

配置預警信息以及通知方式:

這裡我們選擇的是郵件預警通知,但是要提前進行配置,詳見一開始grafana.ini中 SMTP / Emailing 相關參數配置。

點擊發送測試,提示成功會發送一份告警Demo到指定郵箱:

總結

講道理,這一套東西還是挺強大的。特別是對於中小公司來說,各種成熟的開源組間一整合完美搭建出一套監控系統,時間成本、人力成本、技術成本可以降到最低。

參考文檔

大家安裝過程中,版本可能不盡相同,相關頁面展示會不一致,但是不會影響最終功能呈現。

http://docs.grafana.org/

https://docs.influxdata.com/influxdb/

https://docs.influxdata.com/telegraf/

https://blog.52itstyle.vip/archives/2014/

https://blog.52itstyle.vip/archives/2029/

https://github.com/influxdata/telegraf/pull/3277


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 在小伙伴們開發微信公眾號、小程式或者是在微信內置瀏覽器打開的項目時,會遇到的第一個問題就是如何獲取openId,今天小編就給大家帶來的是如何獲取openId。 首先 我們要從微信開發者後臺得到appid,這個appid是管理員在設置微信後臺時獲取的,而且是唯一的,而且還需要在微信後臺設置回調功能變數名稱。 ...
  • sessionStorage和localStorage的基本用法 ...
  • 由於狀態零散地分佈在許多組件和組件之間的交互中,大型應用複雜度也經常逐漸增長。為瞭解決這個問題,Vue 提供 vuex。 一、什麼是Vuex Vuex 是一個專為 Vue.js 應用程式開發的 狀態管理模式 。它採用集中式存儲管理應用的所有組件的狀態,並以相應的規則保證狀態以一種可預測的方式發生變化 ...
  • 第一章 架構基礎 模塊與組件 模塊:從邏輯角度拆分,主要目的是職責分離 組件:從物理角度拆分,主要目的是單元復用 框架與架構 框架:組件規範(開發規範),提供基礎功能的產品。 架構:對軟體系統結構的描述 架構設計的目的是什麼? 軟體架構的歷史 第一次軟體危機——結構化程式設計登場 2000名程式員歷 ...
  • 本文主要給大家介紹,在實際業務中,業務中台到底該如何建設,如何將中台的能力優雅的與前端業務線結合起來。 ...
  • 阿裡巴巴在2015年12月進行組織升級,就是“大中台,小前臺”的模式。主要的思路是打破原來樹狀結構,小前臺距離一線更近,業務全能,這樣便於快速決策、敏捷行動;支持類的業務放在中台,扮演平臺支撐的角色。 ...
  • 目錄: 設計模式六大原則:單一職責原則:https://www.cnblogs.com/az4215/p/11462818.html 設計模式六大原則:介面隔離原則:https://www.cnblogs.com/az4215/p/11481076.html 設計模式六大原則:依賴倒置原則:http ...
  • 目錄: 設計模式六大原則:單一職責原則:https://www.cnblogs.com/az4215/p/11462818.html 設計模式六大原則:介面隔離原則:https://www.cnblogs.com/az4215/p/11481076.html 設計模式六大原則:依賴倒置原則:http ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...