程式員必須練就的「性能調優」組合拳【2】

来源:https://www.cnblogs.com/itlaobingge/archive/2020/01/19/12212942.html
-Advertisement-
Play Games

程式員在轉型架構師的過程中需要建立流程化、結構化、系統化的思維方式，而性能調優是非常難得的契機，它既給了我們壓力，也給了我們動力，跨越它就是突破自己的過程。Y 維度，就是從業務 HTTP 請求的橫向處理流程來看，HTTP 請求會穿越網路、電腦、應用容器（Tomcat）、Spring、ORM（Hib... ...


性能調優系列前序文章索引：

  • 程式員必須掌握的性能調優：老兵哥結合個人經歷解釋了程式員往架構師方向發展時為什麼要跨越性能調優這一關，以及介紹了從 X、Y、Z 三個維度優化性能的思路。
  • 從  X  維度優化系統的性能：老兵哥分享了從 X 維度優化系統性能的思路，包括讓客戶端分計算存儲任務、優化交互設計等，主要是作為引子拓寬我們性能調優的思路。

程式員在轉型架構師的過程中需要建立流程化、結構化、系統化的思維方式，而性能調優是非常難得的契機，它既給了我們壓力，也給了我們動力，跨越它就是突破自己的過程。

  • X 維度，即業務維度，技術始終是服務業務的，任何技術問題的原點就是業務需求。在啟動技術層面的性能優化之前，我們有必要先審視一下業務流程是否合理，交互設計上有沒有可以優化的空間等。
  • Y 維度，待業務維度優化完畢，接下來就是審視技術在實現當前業務流程或交互設計的全鏈路上有沒有可優化的地方，即 HTTP 請求處理全流程，從瀏覽器到應用容器，再到 Spring、Hibernate、資料庫等。
  • Z 維度，除了沿著 HTTP 請求的橫向鏈路，我們還要審視支持應用系統的縱向技術棧，從上到下包括 JVM、操作系統和硬體等，這是整套應用系統運行的環境，許多性能問題都跟運行環境存在關係。

Y 維度，就是從業務 HTTP 請求的橫向處理流程來看，HTTP 請求會穿越網路、電腦、應用容器（Tomcat）、Spring、ORM（Hibernate）、資料庫等節點，在這個流程中每個節點都有許多可以可優化的地方，今天老兵哥先談談如何通過優化應用容器（Tomcat）來優化系統性能。

建議在閱讀本文內容前，先參考下麵這個系列的文章瞭解 Web 應用是怎樣處理 HTTP 請求的：

 

2. 應用容器 Tomcat

2.1 啟動參數

操作系統選型，儘可能選擇 64 位操作系統，在 64 位系統上 JVM 記憶體最高可以設置為 3800MB 左右，在 32 位系統上 JVM 記憶體最高可以設置為 1500MB 左右。另外，我們可以根據系統物理記憶體大小合理設置下列五個啟動參數（在文件 catalina.sh、catalina.bat 中）：

-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m

通常，參數取值符合規則：-Xms=-Xmx，-XX:PermSize=-XX:MaxPermSize。上述參數經過驗證，可以穩定運行在各種操作系統平臺和 JDK 版本上，通過調參儘可能地壓榨伺服器性能。具體場景下的參數取值需要具體分析，基本原則就是不要超過空閑物理記憶體的 80% 即可。如果沒有特殊理由，不要設置上述五個參數之外的 JVM 參數，一者無法保證操作系統平臺的可移植性，二者過度干涉記憶體管理會導致無法預料的後果。

非服務方式啟動的 TOMCAT 調參方式如下：

  • 在 Linux/Unix 系統上，修改 tomcat_home/bin/catalina.sh，添加以下內容：
JAVA_HOME=/export/home/jdk1.6.0_16
JAVA_OPTS="-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m -Dcom.sun.management.jmxremote"
  • 在 Windows 系統上，修改 tomcat_home/bin/catalina.bat，添加以下內容：
set JAVA_HOME=C:\Program Files\Java\jdk1.6.0_16
set JAVA_OPTS=-server -Xms300m -Xmx300m -XX:PermSize=100m -XX:MaxPermSize=100m -Dcom.sun.management.jmxremote

　　兩者區別：Linux/Unix 不需要 set，但有”“；Windows 需要set，但不能有”“。服務方式啟動的 TOMCAT 調參方式如下，僅限於 Windows 系統：

 

  • 在 JAVA 選項卡中，設置 JAVA OPTIONS，添加以下三個參數，每行一個，不能併列：
-XX:PermSize=256m
-XX:MaxPermSize=256m
-Dcom.sun.management.jmxremote　　
  • 設置 Initial memory pool 為 1000MB。
  • 設置 Maximum menory pool 為 1000MB。
  • 不要設置 thread stack size。


2.2 使用 NIO 的 http1.1 超文本傳輸協議

Java 的 IO 操作集中在 java.io 這個包當中，基於阻塞 API（即 BIO，Block IO）。對許多應用來說，這樣的 API 使用很方便，但某些對性能要求較高的應用，尤其是伺服器端應用，往往需要一個更高效的方式來處理 IO。從 JDK1.4 起，NIO API 作為一個基於緩衝區，並能提供非阻塞 IO 操作的 API（即 NIO，non-blocking IO）被引入。BIO 與 NIO 之間最為重要的不同，就是採用 BIO 往往要引入多線程，每個連接分配一個單獨的線程；NIO 是使用單線程或者只使用少量線程，所有連接共用一個線程。具體更改方法如下：

  • 打開 Tomcat 的配置文件：$TOMCAT_HOME/conf/server.xml
  • 找到：<Connector port="8080" protocol="http1.1" ...
  • 改為：<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"...

2.3 調整線程數

Tomcat 可以採用線程池來提升響應速度，預設創建 5 個線程，最大線程數是 200。如果業務併發量較大，則可以對下列幾個參數做些調整，最大線程數可以用“同時線上人數 * 用戶每秒操作次數 * 平均操作時間”公式計算：

  • maxThreads：Tomcat 可創建的最大線程數。
  • acceptCount：如果當前可用線程數為 0，則將請求放入處理隊列中。這個值限定了請求隊列的大小，超過這個數值的請求將不予處理。
  • connectionTimeout：網路連接超時時間，單位毫秒。
  • minSpareThreads：如果當前沒有空閑線程，且沒有超過 maxThreads，一次性創建的空閑線程數量。Tomcat 初始化時創建的線程數量也由此值設置。
  • maxSpareThreads：一旦創建的線程超過此數值，Tomcat會關閉不再需要的線程。

2.4 使用 APR 來增強性能

Tomcat 可以採用 APR（Apache Portable Runtime）提供超強的可伸縮性和性能，更好地集成本地伺服器技術。APR 是一個高可移植庫，它是 Apache HTTP Server 2.x 的核心。APR 有很多用途，包括訪問高級 IO 功能（例如：sendfile、epoll、open SSL 等）、OS 級別的功能（隨機數生成、系統狀態等）、本地進程管理（共用記憶體、NT 管道、UNIX socket 等），這些功能使 Tomcat 作為 WEB 應用伺服器，能更好地與其它本地 Web 技術集成，讓 Tomcat 也可以擔當更高性能的前端 Web 應用伺服器，而不是僅僅是後端 Java EE 應用伺服器。APR 的具體安裝步驟如下（下載地址：http://apr.apache.org）：

  • 安裝 apr 及 apr-util：
> tar zxvf apr-1.3.8.tar.gz
> cd apr-1.3.8
> ./configure —prefix=/usr/lib/apr
> make
> make install
> tar zxvf apr-util-1.3.9.tar.gz
> cd apr-util-1.3.9
> ./configure —with-apr=/usr/lib/apr
> make
> make install
  • 安裝 tomcat-native.tar.gz，此文件在目錄 $TOMCAT_HOME/bin 下：
> tar zxvf tomcat-native.tar.gz
> cd tomcat-native-1.1.16-src/jni/native
> ./configure —with-apr=/usr/lib/apr
> make
> make install
  • 在 Tomcat 的啟動文件（$TOMCAt_HOME/bin/catalina.sh）中加入環境變數：
CATALINA_OPTS=-Djava.library.path=/usr/local/apr/lib
  • 或在操作系統的環境變數（/etc/profile）中添加：
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/apr/lib

重新啟動電腦或使用命令 source /etc/profile 使其即時生效。
查看啟動日誌（$TOMCAT_HOME/logs/catalina…….log），如出現如下信息表示APR啟動成功：

啟動時發現日誌中有：

Sep 30, 2019 4:32:55 PM org.apache.coyote.http11.Http11AprProtocol start 
INFO: Starting Coyote HTTP/1.1 on http-8080 
Sep 30, 2019 4:32:55 PM org.apache.coyote.ajp.AjpAprProtocol start 
INFO: Starting Coyote AJP/1.3 on ajp-8009

 

停止時發現日誌中有：

Sep 30, 2019 4:27:06 PM org.apache.coyote.http11.Http11AprProtocol destroy 
INFO: Stopping Coyote HTTP/1.1 on http-8080 
Sep 30, 2019 4:27:06 PM org.apache.coyote.ajp.AjpAprProtocol destroy 
INFO: Stopping Coyote AJP/1.3 on ajp-8009

 

 

2.5 集成Web伺服器處理靜態內容

作為一個 Jsp/Servlet 容器，Tomcat 本身對靜態 HTML 文件的處理速度要遠遜於 Apache 等 Web 伺服器。通過與此類 Web 伺服器集成，Tomcat 僅僅處理動態資源請求，靜態資源請求則交給 Web 伺服器處理，這樣可以顯著地降低系統負載，從而提高整體響應的速度。

關註「 IT老兵哥 」，賦能程式人生！堅持原創不易，請小伙伴們不吝點個「 贊 」哦！推薦軟技能文章，請點擊鏈接：程式員，怎樣打造個人影響力？

 

 

近期熱評系列《 程式員必須懂的架構師入門課 》：


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • ng--tolist說明
    起步 下載模板： 初始化項目： 將 文件內容替換如下： 安裝模板依賴的樣式文件： 在 文件中導入樣式文件： 看到如下頁面說明成功。 ...
  • ng--todolist
    todolist小案例 "該案例的模板文件下載地址" 走外國伺服器，￣□￣｜｜ app.module.ts 核心組件app.component.ts 發現這倆不是同一類文件，哈哈哈，٩(๑ ◡ !t.done) } else if (this.visibility === 'completed') ...
  • Node.js_1.1
    Node.js簡介 Node.js是一個能夠在伺服器端運行JavaScript的開源代碼、跨平臺JavaScript運行環境 Node採用Google開發的V8引擎運行js代碼，使用事件驅動、非阻塞和非同步I/O模型等技術來提高性能，可優化應用程式的傳輸量和規模 Node大部分基本模塊都用JavaSp ...
  • Nest.js你學不會系列-初識Nest
    前言 最近在學習研究 Nest 框架，但是在學習過程中除了參考翻閱官方文檔外國內幾乎沒有多少資料能系統的講解 Nest 的相關內容，所以打算想通過我自己學習的角度講解下 Nest 框架，不知道能堅持多久，也可能有錯誤或遺漏的地方，歡迎大家批評指正。 下麵我學習 Nest 的主要信息來源，在編寫過程中 ...
  • javascript當中onload用法
    7）onloadonload就是等頁面載入完後才執行。例 3.7.1<HEAD> <meta http-equiv="content-type" content="text/html; charset=utf-8"/> <SCRIPT LANGUAGE="JavaScript"> <!-- func ...
  • Vue開發環境跨域訪問
    Vue開發環境跨域訪問其他伺服器或者本機其他埠，需要配置項目中config/index.js文件，修改如下 module.exports = { dev: { // Paths assetsSubDirectory: 'static', assetsPublicPath: '/', proxyTa ...
  • 程式員必須練就的「性能調優」組合拳【4】
    程式員在轉型架構師的過程中需要建立流程化、結構化、系統化的思維方式，而性能調優是非常難得的契機，它既給了我們壓力，也給了我們動力，跨越它就是突破自己的過程。Y 維度，就是從業務 HTTP 請求的橫向處理流程來看，HTTP 請求會穿越網路、電腦、應用容器（Tomcat）、Spring、ORM（Hib... ...
  • 程式員必須練就的「性能調優」組合拳【3】
    Y 維度就是從業務 HTTP 請求的橫向處理流程來看，HTTP 請求會穿越網路、電腦、應用容器（Tomcat）、Spring、ORM（Hibernate）、資料庫等節點，在這個流程中每個節點都有許多可以可優化的地方，今天老兵哥將介紹通過優化開發框架 Spring 來優化系統性能的方法。 ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發（一）：使用.NET MAUI開發第一個安卓APP
    移動開發（一）：使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說，近來想嘗試開發一款安卓APP，考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP，畢竟是使用Visual Studio開發工具，使用起來也比較的順手，結合微軟官方的教程進行了安卓 ...
  • wpf ToggleButton選中效果和一個登錄界面
    前言 QuestPDF 是一個開源 .NET 庫，用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫，它徹底改變了我們生成 PDF 文檔的方 ...
  • 彈幕樹洞項目功能新增篇
    項目地址 項目後端地址： https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址： ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址： http://tree ...
  • 第27篇 sqlserver2022詳細安裝步驟
    話不多說，直接開乾 一.下載 1.官方鏈接下載： https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe，運行開始下載SQL server； 二. ...
  • .NET 開源高性能 MQTT 類庫
    前言 隨著物聯網（IoT）技術的迅猛發展，MQTT（消息隊列遙測傳輸）協議憑藉其輕量級和高效性，已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫，為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog文檔翻譯系列（六） - 可用的接收器、增強器、格式化輸出
    Serilog支持多種接收器用於日誌存儲，增強器用於添加屬性，LogContext管理動態屬性，支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項，適用於不同需求。 ...
  • 警惕 Visual Studio 屬性求值副作用導致邏輯不符合預期
    目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據，爬取信息時需要模擬瀏覽器行為，否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下： 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • [使用目前最新版]HybridCLR6.9.0+YooAsset2.2.4實現純C# Unity熱更新方案 (一)
    1.前言 什麼是熱更新 游戲或者軟體更新時，無需重新下載客戶端進行安裝，而是在應用程式啟動的情況下，在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR，Xlua，ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles，Addressable， ...
  • 在 ASP.NET Core Web API 中使用操作篩選器統一處理通用操作
    本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺，其實像阿裡雲，騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後，它會送 ...
  • 第28篇 如何.net中實現高效可靠數據同步api
    通過以下方式可以高效，並保證數據同步的可靠性 1.API設計 使用RESTful設計，確保API端點明確，並使用適當的HTTP方法（如POST用於創建，PUT用於更新）。 設計清晰的請求和響應模型，以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證，確保接收到的數據符合預期格 ...
所有分類