支持JDK19虛擬線程的web框架,之一:體驗

来源:https://www.cnblogs.com/bolingcavalry/archive/2023/09/13/17689796.html
-Advertisement-
Play Games

隨著JDK19的發佈,虛擬線程也逐漸被大家瞭解和使用,然而,主流java框架是否支持虛擬線程這一特性呢?咱們應用開發者如何通過框架使用虛擬線程特性?經過精心準備,欣宸原創在第一時間為您帶來詳細的實戰系列,與您共同學習 ...


歡迎訪問我的GitHub

這裡分類和彙總了欣宸的全部原創(含配套源碼):https://github.com/zq2599/blog_demos

關於虛擬線程

  • 隨著JDK19 GA版本的發佈,虛擬線程(來自Project Loom)這一特性也閃亮登場,虛擬線程是 JDK 而並非OS 實現的輕量級線程(Lightweight Process,LWP),許多虛擬線程共用同一操作系統線程,虛擬線程的數量可以遠大於操作系統線程的數量(可以參考golang的協程)
  • 虛擬線程方面的文章,如今已經有很多優秀博主寫得非常詳細深入,欣宸就不在這方面獻醜了,而是將重點放在虛擬線程的實用性方面,用實戰與大家一同學習:如何讓虛擬線程在web服務中發揮作用,效果究竟如何?

關於支持虛擬線程的框架

  • Quarkus的web模塊已經支持JDK19的虛擬線程了,收到web請求後,可以交給虛擬線程去處理,本身開發的工作量也不大,文章標題《支持JDK19虛擬線程的web框架》指的就是Quarkus框架,也是整個系列所用到的框架
  • 關於Quarkus,這是個強大的java框架,介紹Quarkus並非本文重點,有興趣的讀者可以關註欣宸的《quarkus實戰》系列原創

本篇概覽

  • Quarkus框架已支持使用虛擬線程處理web請求,欣宸原創的《支持JDK19虛擬線程的web框架》系列會陪伴大家,全程以實戰動手為主,從快速體驗,再到實際編碼,以及部署構建都有詳細說明,確保讀者們既有成就感,又能學點小技能,在虛擬線程最火爆的時候搶先一步嘗鮮,窺探未來技術的一角
  • 整個系列一共四篇文章,分別是《極速體驗》、《細說開發》、《深入瞭解》(兩篇),本篇是系列的開篇,主要內容是:不寫代碼,通過複製粘貼輕鬆完成最初的體驗,把編碼和設置這些繁重的工作留在後面的文章
  • 接下來說說本篇的主要內容:
  1. 整個體驗環境,由quarkus應用和資料庫組成,當我們向quarkus應用發起請求的時候,應用會去查詢數據再將數據返回給前端
  2. quarkus應用提供了兩個介面,第一個名為/vt/persons,使用虛擬線程來處理web請求,第二個名為/pool/persons,使用傳統線程池來處理web請求,整體上如下圖所示
image-20221016123754303
  1. 由於quarkus對於響應式編程的支持比較完善,因此,quarkus應用中的web處理為響應式,並且資料庫驅動也是響應式
  2. 上述基本功能調通後,我們就用壓測工具來模擬併發訪問,看看使用了虛擬線程的web服務性能究竟如何
  3. 再部署一個同樣功能的SpringBoot應用,也做同樣的壓測,提供參考數據用於對比
  4. 最後畫個圖說明接下來具體要做的事
image-20221016182919235

環境信息

  • 以下是本次實戰的具體環境信息,給您作為參考
  1. 運行環境:一共用到了三臺電腦,信息分別如下

image-20221016183707688

  1. 上述三臺電腦都用到了docker,按照官方文檔部署最新版即可,我這裡是20.10.19版本
  2. postgresql是用docker部署的,版本是15
  3. quarkus版本為2.13.2.Final,使用的JDK是19
  4. springboot版本為2.7.4,用到的JDK是11
  5. 壓測工具k6為docker版,版本號v0.40.0
  • 省吃儉用攢了這麼多電腦來搞事情,主要是想得到的壓測結果儘量客觀獨立,不受太多干擾
  • 接下來,開始動手吧

部署資料庫

  • 首先是安裝資料庫,確保宿主機上的docker已經部署好
  • 部署資料庫很簡單,一行命令即可,如下所示,除了服務,還新建了資料庫,並且設置了賬號和密碼
sudo docker run \
--name postgres \
-p 5432:5432 \
-e POSTGRES_DB=quarkus_test \
-e POSTGRES_USER=quarkus \
-e POSTGRES_PASSWORD=123456 \
-d \
postgres:15

建表,添加數據

  • 用資料庫工具連接資料庫(我這裡用的是IDEA的資料庫工具),執行以下命令,會新建一個表,並導入6條記錄
create table person (
  id serial primary key,
  name varchar(255),
  gender varchar(255),
  age int,
  external_id int
);
insert into person(name, age, gender, external_id) values('John Smith', 25, 'MALE', 10);
insert into person(name, age, gender, external_id) values('Paul Walker', 65, 'MALE', 20);
insert into person(name, age, gender, external_id) values('Lewis Hamilton', 35, 'MALE', 30);
insert into person(name, age, gender, external_id) values('Veronica Jones', 20, 'FEMALE', 40);
insert into person(name, age, gender, external_id) values('Anne Brown', 60, 'FEMALE', 50);
insert into person(name, age, gender, external_id) values('Felicia Scott', 45, 'FEMALE', 60);

部署quarkus應用

  • 登錄用於部署quarkus應用的伺服器,確保伺服器上已經成功部署了docker
  • 新建名為application.properties的配置文件,內容是資料庫相關的參數,如下所示
quarkus.datasource.db-kind=postgresql
quarkus.datasource.username=quarkus
quarkus.datasource.password=123456
quarkus.datasource.reactive.url=postgresql://192.168.0.99:5432/quarkus_test
  • 我這裡,application.properties的路徑是:/home/lighthouse/config/quarkus/application.properties

  • 檢查application.properties文件的可讀性,執行以下命令設置

sudo chmod a+r application.properties
  • 執行以下命令即可部署和啟動quarkus應用,註意application.properties文件的位置要換成您自己的配置文件路徑
docker run -idt \
--name quarkus \
-p 8080:8080 \
-v /home/lighthouse/config/quarkus/application.properties:/application/config/application.properties \
bolingcavalry/quarkus-virual-threads-demo:x64-0.0.3
  • 上述命令中,quarkus應用的鏡像bolingcavalry/quarkus-virual-threads-demo:x64-0.0.3是我提前準備好的,本篇只管使用即可,至於如何製作此鏡像,接下來的文章會有詳細說明

  • sudo docker logs quarkus命令查看啟動日誌,如果啟動成功,信息如下所示

__  ____  __  _____   ___  __ ____  ______ 
 --/ __ \/ / / / _ | / _ \/ //_/ / / / __/ 
 -/ /_/ / /_/ / __ |/ , _/ ,< / /_/ /\ \   
--\___\_\____/_/ |_/_/|_/_/|_|\____/___/   
2022-10-16 11:46:41,406 INFO  [io.quarkus] (main) quarkus-virual-threads-demo 1.0-SNAPSHOT on JVM (powered by Quarkus 2.13.2.Final) started in 0.804s. Listening on: http://0.0.0.0:8080
2022-10-16 11:46:41,414 INFO  [io.quarkus] (main) Profile prod activated. 
2022-10-16 11:46:41,414 INFO  [io.quarkus] (main) Installed features: [cdi, reactive-pg-client, resteasy-reactive, resteasy-reactive-jackson, smallrye-context-propagation, vertx]

驗證基本功能

  • 假設quarkus所在宿主機的IP地址是192.168.0.1,那麼在瀏覽器上訪問地址http://192.168.0.1:8080/vt/persons/1,如下圖,應用成功從資料庫取得數據,並且將當前線程信息也返回給瀏覽器

image-20221016195054009

  • 作為對比,該伺服器上還有個使用虛擬線程的常規web服務,地址是:http://192.168.0.1:8080/pool/persons/1,如下圖,該介面也能從資料庫取得數據,並且將當前線程信息也返回給瀏覽器,註意兩個介面線程信息的差異

image-20221016195523863

  • 對於虛擬線程的介面http://192.168.0.1:8080/vt/persons/1,可以嘗試多次訪問,可見每次返回的虛擬線程Id都不一樣,而使用線程池的介面http://192.168.0.1:8080/pool/persons/1,多次訪問,返回的始終是同一個線程的id

  • 基本功能似乎沒有問題,接下來可以壓測了,用數據說話

壓測使用虛擬線程的介面

  • 這次使用的壓測工具名為k6,選它的原因只有兩個字:簡單
  • 在執行壓測的電腦上,確保docker可以正常使用
  • 新建名為k6-vt-docker.js的文件,內容如下,可見非常簡單,發請求再校驗響應,只要返回碼是200,並且body大小大於0就算一次成功,要註意的事兩個參數,其中vus是併發數,duration是測試持續時間,可見這裡設置的是模擬30用戶併發請求,持續時間是60秒
import http from 'k6/http';
import { sleep, check } from 'k6';

export let options = {
  vus: 30,
  duration: '60s',
};

export default function () {
  let r = Math.floor(Math.random() * 6) + 1;
  const res = http.get(`http://192.168.0.1:8080/vt/persons/${r}`);
  check(res, {
    'is status 200': (res) => res.status === 200,
    'body size is > 0': (r) => r.body.length > 0,
  });
  sleep(1);
}
  • 一行命令即可開始壓測,如下
 docker run --rm -i loadimpact/k6 run - < k6-vt-docker.js
  • 等待一分鐘,壓測完成,得到以下數據

image-20221016201343176

  • 這裡將幾個重要參數介紹一下
  1. checks : 通過率,如果滿足返回碼200且包體大小大於0的條件,就表示本次請求成功,這裡顯示100.00%,表示全部通過
  2. http_req_waiting:等待響應的事件,這裡avg=33.83ms,表示平均等待時間為33.83毫秒
  3. http_reqs:每秒處理請求數,即常說的QPS,這裡是28個每秒
  • 接下來將併發數調整為300(即vue參數),如下圖
image-20221016201904998
  • 再次壓測,得到結果如下,併發數漲了10倍,QPS也漲了10倍,很完美的線程提升,不過平均等待時間略漲
    image-20221016202227598

  • 再來個狠的,併發數一口暴漲到5000試試,如下圖,這麼高的併發,已經無法保障100%的成功率了,好在95%也不低,另外平均等待時間從39毫秒暴漲到6.26秒,至於QPS當然不會太高,僅比300併發的時候高了百分之五十image-20221016202751348

壓測使用線程池的介面

  • 操作步驟和剛纔差不多,只是要修改腳本中的介面地址,如下所示
import http from 'k6/http';
import { sleep, check } from 'k6';

export let options = {
  vus: 30,
  duration: '60s',
};

export default function () {
  let r = Math.floor(Math.random() * 6) + 1;
  const res = http.get(`http://192.168.0.1:8080/pool/persons/${r}`);
  check(res, {
    'is status 200': (res) => res.status === 200,
    'body size is > 0': (r) => r.body.length > 0,
  });
  sleep(1);
}

  • 30併發的壓測結果如下,和使用虛擬線程並無區別
    image-20221016203908998

  • 300併發壓測結果如下,和使用虛擬線程並無區別

image-20221016204237577

  • 5000併發壓測結果如下,和虛擬線程相比,平均等待時間略長,QPS略低,但是整體上差別不大

image-20221016204550432

小結

  • 在響應式web服務中,並且關聯的資料庫操作也是響應式的,相比傳統的線程池模型,虛擬線程並未帶來明顯收益

  • 不甘心啊,接下來就換成SpringBoot應用,模擬咱們日常開發最常見的資料庫訪問場景,看看相比之下,差距有多大?

停止quarkus應用

  • 由於打算將SpringBoot應用部署在quarkus應用所在電腦上,所以要先停掉quarkus應用,執行以下命令
sudo docker stop quarkus

啟動SpringBoot應用

  • 新建名為application.properties的配置文件,內容是資料庫相關的參數,如下所示
spring.datasource.url=jdbc:postgresql://42.193.162.141:5432/quarkus_test
spring.datasource.username=quarkus
spring.datasource.password=123456
spring.datasource.driver-class-name=org.postgresql.Driver

spring.jpa.properties.hibernate.dialect=org.hibernate.dialect.PostgreSQLDialect
spring.jpa.properties.hibernate.hbm2ddl.auto=update
spring.datasource.hikari.maximum-pool-size=256
  • 我這裡,application.properties的路徑是:/home/lighthouse/config/springboot/application.properties

  • 檢查application.properties文件的可讀性,執行以下命令設置

sudo chmod a+r application.properties
  • 執行以下命令即可部署和啟動springboot應用,註意application.properties文件的位置要換成您自己的配置文件路徑
docker run -idt \
--name springboot \
-p 8080:8080 \
-v /home/lighthouse/config/springboot/application.properties:/application/BOOT-INF/classes/application.properties \
bolingcavalry/springboot-postgresql-demo:x64-0.0.3
  • 上述命令中,springboot應用的鏡像bolingcavalry/springboot-postgresql-demo:x64-0.0.3是我提前準備好的,本篇只管使用即可,至於如何製作此鏡像,接下來的文章會有詳細說明

  • 看到以下日誌,證明應用啟動成功


  .   ____          _            __ _ _
 /\\ / ___'_ __ _ _(_)_ __  __ _ \ \ \ \
( ( )\___ | '_ | '_| | '_ \/ _` | \ \ \ \
 \\/  ___)| |_)| | | | | || (_| |  ) ) ) )
  '  |____| .__|_| |_|_| |_\__, | / / / /
 =========|_|==============|___/=/_/_/_/
 :: Spring Boot ::                (v2.7.4)

2022-10-16 13:01:01.022  INFO 1 --- [           main] .b.s.SpringbootPostgresqlDemoApplication : Starting SpringbootPostgresqlDemoApplication v0.0.1-SNAPSHOT using Java 11.0.13 on 5c25db81639e with PID 1 (/application/BOOT-INF/classes started by root in /application)
2022-10-16 13:01:01.025  INFO 1 --- [           main] .b.s.SpringbootPostgresqlDemoApplication : No active profile set, falling back to 1 default profile: "default"
2022-10-16 13:01:01.795  INFO 1 --- [           main] .s.d.r.c.RepositoryConfigurationDelegate : Bootstrapping Spring Data JPA repositories in DEFAULT mode.
2022-10-16 13:01:01.857  INFO 1 --- [           main] .s.d.r.c.RepositoryConfigurationDelegate : Finished Spring Data repository scanning in 47 ms. Found 1 JPA repository interfaces.
2022-10-16 13:01:02.392  INFO 1 --- [           main] o.s.b.w.embedded.tomcat.TomcatWebServer  : Tomcat initialized with port(s): 8080 (http)
2022-10-16 13:01:02.405  INFO 1 --- [           main] o.apache.catalina.core.StandardService   : Starting service [Tomcat]
2022-10-16 13:01:02.405  INFO 1 --- [           main] org.apache.catalina.core.StandardEngine  : Starting Servlet engine: [Apache Tomcat/9.0.65]
2022-10-16 13:01:02.492  INFO 1 --- [           main] o.a.c.c.C.[Tomcat].[localhost].[/]       : Initializing Spring embedded WebApplicationContext
2022-10-16 13:01:02.492  INFO 1 --- [           main] w.s.c.ServletWebServerApplicationContext : Root WebApplicationContext: initialization completed in 1364 ms
2022-10-16 13:01:02.701  INFO 1 --- [           main] o.hibernate.jpa.internal.util.LogHelper  : HHH000204: Processing PersistenceUnitInfo [name: default]
2022-10-16 13:01:02.741  INFO 1 --- [           main] org.hibernate.Version                    : HHH000412: Hibernate ORM core version 5.6.11.Final
2022-10-16 13:01:02.867  INFO 1 --- [           main] o.hibernate.annotations.common.Version   : HCANN000001: Hibernate Commons Annotations {5.1.2.Final}
2022-10-16 13:01:02.942  INFO 1 --- [           main] com.zaxxer.hikari.HikariDataSource       : HikariPool-1 - Starting...
2022-10-16 13:01:03.164  INFO 1 --- [           main] com.zaxxer.hikari.HikariDataSource       : HikariPool-1 - Start completed.
2022-10-16 13:01:03.179  INFO 1 --- [           main] org.hibernate.dialect.Dialect            : HHH000400: Using dialect: org.hibernate.dialect.PostgreSQLDialect
2022-10-16 13:01:03.688  INFO 1 --- [           main] o.h.e.t.j.p.i.JtaPlatformInitiator       : HHH000490: Using JtaPlatform implementation: [org.hibernate.engine.transaction.jta.platform.internal.NoJtaPlatform]
2022-10-16 13:01:03.695  INFO 1 --- [           main] j.LocalContainerEntityManagerFactoryBean : Initialized JPA EntityManagerFactory for persistence unit 'default'

image-20221016210323753

壓測SpringBoot應用

  • 壓測SpringBoot應用的k6腳本如下
import http from 'k6/http';
import { sleep, check } from 'k6';

export let options = {
  vus: 30,
  duration: '60s',
};

export default function () {
  let r = Math.floor(Math.random() * 6) + 1;
  const res = http.get(`http://192.168.0.1:8080/springboot/persons/${r}`);
  check(res, {
    'is status 200': (res) => res.status === 200,
    'body size is > 0': (r) => r.body.length > 0,
  });
  sleep(1);
}

  • 30併發壓測結果如下,這麼整齊,和quarkus的基本一致

image-20221016211101018

  • 300併發壓測結果如下,幾個關鍵指標依舊和quarkus保持對齊,這讓我覺得很索然無味

image-20221016211351254

  • 5000併發,終於有了點差距,但也不明顯,成功率91%,低於quarkus的95%,相比quarkus,SpringBoot的平均等待時間略高,QPS略低

image-20221016215029375

  • 至此,咱們通過實際對比的方式,已體驗過quarkus使用虛擬線程的web服務,同在quarkus框架中,虛擬線程帶來的提升並不明顯,在對比未做優化的SpringBoot應用時,也沒有在吞吐量方面帶來提升,但這一切都不能立即下定論,也許是欣宸的用法有嚴重問題...如果真有問題,聰明的您,在下一篇文章《編碼實戰》中一定會發現,如果真有問題,不要可憐我,懟我,讓我懺悔...
  • 接下來的文章,咱們一起深入編程實戰,使用JDK19後,對JDK、maven、IDE、編譯構建、製作docker鏡像等方方面面相比以前都有變化,這些都會在文中逐一處理,咱們一起開發出使用虛擬線程的quarkus應

歡迎關註博客園:程式員欣宸

學習路上,你不孤單,欣宸原創一路相伴...


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 匿名函數和常見是內置函數(配合匿名使用)和for迴圈的原理,異常的捕獲 匿名函數 常見的內置函數(配合匿名函數使用) 可迭代對象 迭代器對象 for迴圈內部原理 異常捕獲 匿名函數 匿名函數不需要顯示地定義函數名,使用【lambda + 參數 +表達式】的方式 lambda [arg1 [,arg2 ...
  • 文章來源:https://www.zhihu.com/question/545653479/answer/3098666967 1 內部員工吐露 每天工作其實就是負責自己片區的紅綠燈,一大早就去校對時間,然後發佈到後臺。是的,統計出來的,而且還是人工統計,有誤差請見諒 真的是很辛苦了!不過還是希望他 ...
  • 通過這個解釋,我們將瞭解當Python程式顯示類似NameError: name '' is not defined的錯誤時,即使該函數存在於腳本中,也會出現這種情況。 我們還學習了當我們使用拼寫錯誤的變數或沒有導入的內置函數時會發生什麼,以及如何在Python中避免這些錯誤。 避免在Python聲 ...
  • 本文將使用實際的例子來解釋Python的urlparse() 函數來解析和提取URL中的功能變數名稱。我們還將討論如何提高我們解析 URL 的能力和使用它們的不同組件。 用urlparse() 從 URL 中提取功能變數名稱 urlparse() 方法是Python的urllib 模塊的一部分,當你需要將URL拆分 ...
  • Java實現常見查找演算法 查找是在大量的信息中尋找一個特定的信息元素,在電腦應用中,查找是常用的基本運算,例如編譯程式中符號表的查找。 線性查找 線性查找(Linear Search)是一種簡單的查找演算法,用於在數據集中逐一比較每個元素,直到找到目標元素或搜索完整個數據集。它適用於任何類型的數據集 ...
  • Matplotlib 提供了大量配置參數,這些參數可以但不限於讓我們從整體上調整通過 Matplotlib 繪製的圖形樣式,這裡面的參數還有很多是功能性的,和其他工具結合時需要用的配置。 通過plt.rcParams,可以查看所有的配置信息: import matplotlib.pyplot as ...
  • 大家好,我是TJ 今天給大家推薦一個開源協作式數字白板:tldraw。 tldraw的編輯器、用戶界面和其他底層庫都是開源的,你可以在它的開源倉庫中找到它們。它們也在NPM上分發,提供開發者使用。您可以使用tlDraw為您的產品創建一個臨時白板,或者將其作為構建自己應用的工具來使用。 線上體驗 tl ...
  • 基於java學生考勤管理系統設計與實現,可適用於學生考勤系統,校園考勤,大學考勤管理,企業考勤系統,公司考勤系統,學校考勤系統。 ...
一周排行
    -Advertisement-
    Play Games
  • 下麵是一個標準的IDistributedCache用例: public class SomeService(IDistributedCache cache) { public async Task<SomeInformation> GetSomeInformationAsync (string na ...
  • 這個庫提供了在啟動期間實例化已註冊的單例,而不是在首次使用它時實例化。 單例通常在首次使用時創建,這可能會導致響應傳入請求的延遲高於平時。在註冊時創建實例有助於防止第一次Request請求的SLA 以往我們要在註冊的時候實例單例可能會這樣寫: //註冊: services.AddSingleton< ...
  • 最近公司的很多項目都要改單點登錄了,不過大部分都還沒敲定,目前立刻要做的就只有一個比較老的項目 先改一個試試手,主要目標就是最短最快實現功能 首先因為要保留原登錄方式,所以頁面上的改動就是在原來登錄頁面下加一個SSO登錄入口 用超鏈接寫的入口,頁面改造後如下圖: 其中超鏈接的 href="Staff ...
  • Like運算符很好用,特別是它所提供的其中*、?這兩種通配符,在Windows文件系統和各類項目中運用非常廣泛。 但Like運算符僅在VB中支持,在C#中,如何實現呢? 以下是關於LikeString的四種實現方式,其中第四種為Regex正則表達式實現,且在.NET Standard 2.0及以上平... ...
  • 一:背景 1. 講故事 前些天有位朋友找到我,說他們的程式記憶體會偶發性暴漲,自己分析了下是非托管記憶體問題,讓我幫忙看下怎麼回事?哈哈,看到這個dump我還是非常有興趣的,居然還有這種游戲幣自助機類型的程式,下次去大玩家看看他們出幣的機器後端是不是C#寫的?由於dump是linux上的程式,剛好win ...
  • 前言 大家好,我是老馬。很高興遇到你。 我們為 java 開發者實現了 java 版本的 nginx https://github.com/houbb/nginx4j 如果你想知道 servlet 如何處理的,可以參考我的另一個項目: 手寫從零實現簡易版 tomcat minicat 手寫 ngin ...
  • 上一次的介紹,主要圍繞如何統一去捕獲異常,以及為每一種異常添加自己的Mapper實現,並且我們知道,當在ExceptionMapper中返回非200的Response,不支持application/json的響應類型,而是寫死的text/plain類型。 Filter為二方包異常手動捕獲 參考:ht ...
  • 大家好,我是R哥。 今天分享一個爽飛了的面試輔導 case: 這個杭州兄弟空窗期 1 個月+,面試了 6 家公司 0 Offer,不知道問題出在哪,難道是杭州的 IT 崩盤了麽? 報名面試輔導後,經過一個多月的輔導打磨,現在成功入職某上市公司,漲薪 30%+,955 工作制,不咋加班,還不捲。 其他 ...
  • 引入依賴 <!--Freemarker wls--> <dependency> <groupId>org.freemarker</groupId> <artifactId>freemarker</artifactId> <version>2.3.30</version> </dependency> ...
  • 你應如何運行程式 互動式命令模式 開始一個互動式會話 一般是在操作系統命令行下輸入python,且不帶任何參數 系統路徑 如果沒有設置系統的PATH環境變數來包括Python的安裝路徑,可能需要機器上Python可執行文件的完整路徑來代替python 運行的位置:代碼位置 不要輸入的內容:提示符和註 ...