一個JVM參數,服務超時率降了四分之三

来源:https://www.cnblogs.com/songjiyang/archive/2023/06/28/17512319.html
-Advertisement-
Play Games

先說結論:通過優化Xms,改為和Xmx一致,使系統的超時率降了四分之三 ![image.png](https://img2023.cnblogs.com/blog/2058002/202306/2058002-20230628185820689-1353266318.png) # 1. 背景 一個同 ...


先說結論:通過優化Xms,改為和Xmx一致,使系統的超時率降了四分之三

image.png

1. 背景

一個同事說他負責的服務在一次上線之後超時率增加了一倍

image.png

2. 分析

2.1 機器的監控

首先找了一臺機器,看了監控
image.png

上線後最明顯的變化就是CPU使用率變高了

2.2 上線改動點

上線只加了簡單的判斷條件,按理不應該導致CPU變高成這樣

2.3 CPU使用率隨時間變低

又發現了一個奇怪的現象是,在沒有上線的情況下,CPU使用率突然降低了,然後就一直保持著很低的狀態
image.png

CPU降低之後,超時率也有所降低,現在大概能理解超時是和CPU使用率有關的,可能存在CPU瓶頸

2.4 依賴的服務

既然在沒有上線的情況下,CPU使用率會降低,肯定有什麼因素影響,猜測可能是依賴的服務,但依賴的服務太多,也沒辦法一個一個去看,哪個調用有問題

2.5 CPU和上線的關係

於是還是想在CPU使用率上找找問題,因為是上線導致的CPU使用率變高,所以看了其他上線時間的CPU使用率

還是有點思路了,發現大部分上線之後CPU使用率是會變高,部分沒有(後面知道,因為有的上線本身就是優化,所以CPU使用率也會變低)

2.6 CPU和記憶體的關係

之前一直在關心CPU,突然看見了記憶體的使用率,一下就明白的問題所在,從下麵這張圖可以看出,CPU使用率和記憶體使用率是成反比的

image.png

使用Java的都應該清楚,記憶體不夠的時候,就會STW,然後去啟動GC線程去GC,而且一般情況GC線程數和CPU核數是一致的,這個服務也是如此,此時CPU使用率必然是會變高的

上面3月6號CPU突然下降的原因也是因為記憶體使用變高了,這是在沒有上線的情況下

image.png

2.7 記憶體和JVM參數

可以看到上面的圖中,CPU使用率高的時候,記憶體占用只有20%左右,為什麼空這這麼多記憶體不用呢?看下JVM參數

-Xmx16g -Xms4g -Xss1024K -XX:SurvivorRatio=8 -XX:MaxTenuringThreshold=10 -XX:MetaspaceSize=512m -XX:+UseG1GC -XX:MaxGCPauseMillis=200 -XX:ParallelGCThreads=8 -XX:ConcGCThreads=8 -XX:G1HeapRegionSize=16m -XX:-OmitStackTraceInFastThrow

Xms配的是4G,也就是說JVM在啟動時只會申請4G記憶體,當記憶體不足時,先會GC,當GC釋放的記憶體還不夠時,才會去申請更大的記憶體

這樣的策略一般是為了節省記憶體,但目前主流的都是容器,節省下來的記憶體也不會給別的服務利用,所以我們這可以直接把Xms改為16G

改完之後立即得到了很好的效果,超時率降了四分之三,不過後續因為記憶體使用率變高,超過了閾值,所以又把Xmx和Xms調整為14G,這個問題可以參考我之前的文章一次Java服務記憶體過高的分析過程

3. 總結

  1. Xms配置過小,JVM啟動時記憶體不足導致GC線程占用過多CPU
  2. CPU不足時,超時率增加,CPU充足時,超時率降低
  3. Xms配置和Xmx一樣,超時率降低

4. Xms和Xmx

這兩個參數使用Java的都比較瞭解

Xmx: JVM的最大堆記憶體
Xms: JVM的初始堆記憶體

4.2 不一致的壞處

  1. 堆記憶體不夠時更頻繁的觸發GC
  2. 當GC完之後記憶體也不夠時,向系統申請記憶體,會花費更多的時間

4.2 改為一致的好處

為了避免在生產環境由於heap記憶體擴大或縮小導致應用停頓,降低延遲,同時避免每次垃圾回收完成後JVM重新分配記憶體。所以,-Xmx和-Xms一般都是設置相等的

在生產環境中把Xms和Xmx設為相同值也是Oracle官方推薦

5. 感想

這個配置從機器上線跑了兩年一直如此,大部分時間性能沒被充分利用,現在有二十臺機器都是以這樣一種低性能模式跑了這麼久,這絕對是一種浪費

在第三篇參考文章中,有個人的評論正好和我相反,他認為一開始將Xms和Xmx設置為一樣,而實際沒用那麼多,其實也是一種浪費,不過這是18年前的文章,那時容器沒有興起,服務都在一個物理機上面共用記憶體,會是有這種問題的

在容器中,節省的記憶體別的服務也利用不了,所以Xms最後設置和Xmx一致,但是容器也是可能造成浪費的,比如上面我把Xmx和Xms從16G改為14G,從監控上來看耗時和超時率下降了一點,也就是把這個容器的記憶體往下調一點也是可以接受的,具體調到多少合適也不太確定

不過這種優化很沒有必要,記憶體是很便宜的,而且適量冗餘一些性能也可以理解

既然這麼多好處,為什麼Oracle不預設把Xms和Xmx設置為一致呢,我覺得可能是目前還是有大部分Java應用都不是容器環境,全局考慮,沒有這樣做,或許後續Java會判斷是否是容器環境來自動設置Xms

參考

[1] JVM的Xms和Xmx參數設置為相同值有什麼好處?

[2] Is there any advantage in setting Xms and Xmx to the same value?

[3] large difference between -Xms and -Xmx values in jvm

本文來自博客園,作者:songtianer,轉載請註明原文鏈接:https://www.cnblogs.com/songjiyang/p/17512319.html


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 水滿則溢,月盈則虧,任何事物都不可能無限制的發展,我們的系統服務能力也一樣。 當隨著流量的不斷增長,達到或超過服務本身的可承載範圍,系統服務的自我保護機制的建立就顯得很重要了。 本文希望可以用最通俗的解釋和貼切的實例來帶大家瞭解什麼是限流、降級和熔斷。 ...
  • ## 前言 函數是C語言中的基本構建塊之一,它允許我們將代碼組織成可重用、模塊化的單元。 本文將逐步介紹C語言函數的基礎概念、參數傳遞、返回值、遞歸以及內聯函數和匿名函數。 ## 一、人物簡介 - 第一位閃亮登場,有請今後會一直教我們C語言的老師 —— 自在。 ![](https://img2023 ...
  • 某日二師兄參加XXX科技公司的C++工程師開發崗位第27面: > 面試官:知道`std::unordered_set/std::unordered_map`嗎? > > 二師兄:知道。兩者都是C++11引入的新容器,和`std::set`和`std::map`功能類似,`key`唯一,`unorde ...
  • 在用 Flask 寫一個項目,後臺管理用的插件暫時是 flask-admin。想實現的效果:在後臺管理頁面中,把提交到後端的圖片不保存在 static 文件夾下麵,而是通過後端代碼把這個文件對象上傳到 AWS 的 S3中存儲。 通過flask-admin 上傳到後端的文件對象的類型是: ```pyt ...
  • 在新創建的子進程中,會把父進程的所有信息複製一份,它們之間的數據互不影響。 ### 1.使用os.fork()創建 該方式只能用於Unix/Linux操作系統中,在windows不能用。 ```python import os # 註意,fork函數,只在Unix/Linux/Mac上運行,wind ...
  • # HttpServletRequest對象 ## 基本介紹 ​ **HttpServletRequest對象:**HttpServletRequest 對象專門用於封裝 HTTP 請求消息,簡稱 request 對象。主要作用是用來接收客戶端發送過來的請求信息,該對象是由Tomcat封裝好傳遞過來 ...
  • 不知道各位網購的時候,是否會去留意商品評價,有些小伙伴是很在意評價的,看到差評就不想買了,而有些小伙伴則是會對差評進行理性分析,而還有一類人不在乎這個。 當然這都是題外話,咱們今天主要的目的是使用Python來爬取某東商品的評價,並保存到CSV表格。 1、數據採集邏輯 在進行數據採集之前,明確哪些數 ...
  • ### 序 Golang 中的結構或 struct 是用戶定義的類型,允許將可能不同類型的項分組/組合為單一類型。 可以說是一個不支持繼承但支持組合的輕量級類。 我們使用 Golang 編寫代碼的時候,你肯定使用過`struct`。 但是,你可能不知道的是,通過簡單地重新排序結構中的欄位,可以極大地 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...