隨著JDK19的發佈,虛擬線程也逐漸被大家瞭解和使用,然而,主流java框架是否支持虛擬線程這一特性呢?咱們應用開發者如何通過框架使用虛擬線程特性?經過精心準備,欣宸原創在第一時間為您帶來詳細的實戰系列,與您共同學習 ...
歡迎訪問我的GitHub
這裡分類和彙總了欣宸的全部原創(含配套源碼):https://github.com/zq2599/blog_demos
關於虛擬線程
- 隨著JDK19 GA版本的發佈,虛擬線程(來自Project Loom)這一特性也閃亮登場,虛擬線程是 JDK 而並非OS 實現的輕量級線程(Lightweight Process,LWP),許多虛擬線程共用同一操作系統線程,虛擬線程的數量可以遠大於操作系統線程的數量(可以參考golang的協程)
- 虛擬線程方面的文章,如今已經有很多優秀博主寫得非常詳細深入,欣宸就不在這方面獻醜了,而是將重點放在虛擬線程的實用性方面,用實戰與大家一同學習:如何讓虛擬線程在web服務中發揮作用,效果究竟如何?
關於支持虛擬線程的框架
- Quarkus的web模塊已經支持JDK19的虛擬線程了,收到web請求後,可以交給虛擬線程去處理,本身開發的工作量也不大,文章標題《支持JDK19虛擬線程的web框架》指的就是Quarkus框架,也是整個系列所用到的框架
- 關於Quarkus,這是個強大的java框架,介紹Quarkus並非本文重點,有興趣的讀者可以關註欣宸的《quarkus實戰》系列原創
本篇概覽
- Quarkus框架已支持使用虛擬線程處理web請求,欣宸原創的《支持JDK19虛擬線程的web框架》系列會陪伴大家,全程以實戰動手為主,從快速體驗,再到實際編碼,以及部署構建都有詳細說明,確保讀者們既有成就感,又能學點小技能,在虛擬線程最火爆的時候搶先一步嘗鮮,窺探未來技術的一角
- 整個系列一共四篇文章,分別是《極速體驗》、《細說開發》、《深入瞭解》(兩篇),本篇是系列的開篇,主要內容是:不寫代碼,通過複製粘貼輕鬆完成最初的體驗,把編碼和設置這些繁重的工作留在後面的文章
- 接下來說說本篇的主要內容:
- 整個體驗環境,由quarkus應用和資料庫組成,當我們向quarkus應用發起請求的時候,應用會去查詢數據再將數據返回給前端
- quarkus應用提供了兩個介面,第一個名為/vt/persons,使用虛擬線程來處理web請求,第二個名為/pool/persons,使用傳統線程池來處理web請求,整體上如下圖所示
![image-20221016123754303](https://img2023.cnblogs.com/blog/485422/202309/485422-20230909170414546-66487742.png)
- 由於quarkus對於響應式編程的支持比較完善,因此,quarkus應用中的web處理為響應式,並且資料庫驅動也是響應式
- 上述基本功能調通後,我們就用壓測工具來模擬併發訪問,看看使用了虛擬線程的web服務性能究竟如何
- 再部署一個同樣功能的SpringBoot應用,也做同樣的壓測,提供參考數據用於對比
- 最後畫個圖說明接下來具體要做的事
![image-20221016182919235](https://img2023.cnblogs.com/blog/485422/202309/485422-20230909170414600-754177154.png)
環境信息
- 以下是本次實戰的具體環境信息,給您作為參考
- 運行環境:一共用到了三臺電腦,信息分別如下
- 上述三臺電腦都用到了docker,按照官方文檔部署最新版即可,我這裡是20.10.19版本
- postgresql是用docker部署的,版本是15
- quarkus版本為2.13.2.Final,使用的JDK是19
- springboot版本為2.7.4,用到的JDK是11
- 壓測工具k6為docker版,版本號v0.40.0
- 省吃儉用攢了這麼多電腦來搞事情,主要是想得到的壓測結果儘量客觀獨立,不受太多干擾
- 接下來,開始動手吧
部署資料庫
- 首先是安裝資料庫,確保宿主機上的docker已經部署好
- 部署資料庫很簡單,一行命令即可,如下所示,除了服務,還新建了資料庫,並且設置了賬號和密碼
sudo docker run \
--name postgres \
-p 5432:5432 \
-e POSTGRES_DB=quarkus_test \
-e POSTGRES_USER=quarkus \
-e POSTGRES_PASSWORD=123456 \
-d \
postgres:15
建表,添加數據
- 用資料庫工具連接資料庫(我這裡用的是IDEA的資料庫工具),執行以下命令,會新建一個表,並導入6條記錄
create table person (
id serial primary key,
name varchar(255),
gender varchar(255),
age int,
external_id int
);
insert into person(name, age, gender, external_id) values('John Smith', 25, 'MALE', 10);
insert into person(name, age, gender, external_id) values('Paul Walker', 65, 'MALE', 20);
insert into person(name, age, gender, external_id) values('Lewis Hamilton', 35, 'MALE', 30);
insert into person(name, age, gender, external_id) values('Veronica Jones', 20, 'FEMALE', 40);
insert into person(name, age, gender, external_id) values('Anne Brown', 60, 'FEMALE', 50);
insert into person(name, age, gender, external_id) values('Felicia Scott', 45, 'FEMALE', 60);
部署quarkus應用
- 登錄用於部署quarkus應用的伺服器,確保伺服器上已經成功部署了docker
- 新建名為application.properties的配置文件,內容是資料庫相關的參數,如下所示
quarkus.datasource.db-kind=postgresql
quarkus.datasource.username=quarkus
quarkus.datasource.password=123456
quarkus.datasource.reactive.url=postgresql://192.168.0.99:5432/quarkus_test
-
我這裡,application.properties的路徑是:/home/lighthouse/config/quarkus/application.properties
-
檢查application.properties文件的可讀性,執行以下命令設置
sudo chmod a+r application.properties
- 執行以下命令即可部署和啟動quarkus應用,註意application.properties文件的位置要換成您自己的配置文件路徑
docker run -idt \
--name quarkus \
-p 8080:8080 \
-v /home/lighthouse/config/quarkus/application.properties:/application/config/application.properties \
bolingcavalry/quarkus-virual-threads-demo:x64-0.0.3
-
上述命令中,quarkus應用的鏡像bolingcavalry/quarkus-virual-threads-demo:x64-0.0.3是我提前準備好的,本篇只管使用即可,至於如何製作此鏡像,接下來的文章會有詳細說明
-
用sudo docker logs quarkus命令查看啟動日誌,如果啟動成功,信息如下所示
__ ____ __ _____ ___ __ ____ ______
--/ __ \/ / / / _ | / _ \/ //_/ / / / __/
-/ /_/ / /_/ / __ |/ , _/ ,< / /_/ /\ \
--\___\_\____/_/ |_/_/|_/_/|_|\____/___/
2022-10-16 11:46:41,406 INFO [io.quarkus] (main) quarkus-virual-threads-demo 1.0-SNAPSHOT on JVM (powered by Quarkus 2.13.2.Final) started in 0.804s. Listening on: http://0.0.0.0:8080
2022-10-16 11:46:41,414 INFO [io.quarkus] (main) Profile prod activated.
2022-10-16 11:46:41,414 INFO [io.quarkus] (main) Installed features: [cdi, reactive-pg-client, resteasy-reactive, resteasy-reactive-jackson, smallrye-context-propagation, vertx]
驗證基本功能
- 假設quarkus所在宿主機的IP地址是192.168.0.1,那麼在瀏覽器上訪問地址http://192.168.0.1:8080/vt/persons/1,如下圖,應用成功從資料庫取得數據,並且將當前線程信息也返回給瀏覽器
- 作為對比,該伺服器上還有個使用虛擬線程的常規web服務,地址是:http://192.168.0.1:8080/pool/persons/1,如下圖,該介面也能從資料庫取得數據,並且將當前線程信息也返回給瀏覽器,註意兩個介面線程信息的差異
-
對於虛擬線程的介面http://192.168.0.1:8080/vt/persons/1,可以嘗試多次訪問,可見每次返回的虛擬線程Id都不一樣,而使用線程池的介面http://192.168.0.1:8080/pool/persons/1,多次訪問,返回的始終是同一個線程的id
-
基本功能似乎沒有問題,接下來可以壓測了,用數據說話
壓測使用虛擬線程的介面
- 這次使用的壓測工具名為k6,選它的原因只有兩個字:簡單
- 在執行壓測的電腦上,確保docker可以正常使用
- 新建名為k6-vt-docker.js的文件,內容如下,可見非常簡單,發請求再校驗響應,只要返回碼是200,並且body大小大於0就算一次成功,要註意的事兩個參數,其中vus是併發數,duration是測試持續時間,可見這裡設置的是模擬30用戶併發請求,持續時間是60秒
import http from 'k6/http';
import { sleep, check } from 'k6';
export let options = {
vus: 30,
duration: '60s',
};
export default function () {
let r = Math.floor(Math.random() * 6) + 1;
const res = http.get(`http://192.168.0.1:8080/vt/persons/${r}`);
check(res, {
'is status 200': (res) => res.status === 200,
'body size is > 0': (r) => r.body.length > 0,
});
sleep(1);
}
- 一行命令即可開始壓測,如下
docker run --rm -i loadimpact/k6 run - < k6-vt-docker.js
- 等待一分鐘,壓測完成,得到以下數據
- 這裡將幾個重要參數介紹一下
- checks : 通過率,如果滿足返回碼200且包體大小大於0的條件,就表示本次請求成功,這裡顯示100.00%,表示全部通過
- http_req_waiting:等待響應的事件,這裡avg=33.83ms,表示平均等待時間為33.83毫秒
- http_reqs:每秒處理請求數,即常說的QPS,這裡是28個每秒
- 接下來將併發數調整為300(即vue參數),如下圖
![image-20221016201904998](https://img2023.cnblogs.com/blog/485422/202309/485422-20230909170414669-1313368934.png)
-
再次壓測,得到結果如下,併發數漲了10倍,QPS也漲了10倍,很完美的線程提升,不過平均等待時間略漲
-
再來個狠的,併發數一口暴漲到5000試試,如下圖,這麼高的併發,已經無法保障100%的成功率了,好在95%也不低,另外平均等待時間從39毫秒暴漲到6.26秒,至於QPS當然不會太高,僅比300併發的時候高了百分之五十
壓測使用線程池的介面
- 操作步驟和剛纔差不多,只是要修改腳本中的介面地址,如下所示
import http from 'k6/http';
import { sleep, check } from 'k6';
export let options = {
vus: 30,
duration: '60s',
};
export default function () {
let r = Math.floor(Math.random() * 6) + 1;
const res = http.get(`http://192.168.0.1:8080/pool/persons/${r}`);
check(res, {
'is status 200': (res) => res.status === 200,
'body size is > 0': (r) => r.body.length > 0,
});
sleep(1);
}
-
30併發的壓測結果如下,和使用虛擬線程並無區別
-
300併發壓測結果如下,和使用虛擬線程並無區別
- 5000併發壓測結果如下,和虛擬線程相比,平均等待時間略長,QPS略低,但是整體上差別不大
小結
-
在響應式web服務中,並且關聯的資料庫操作也是響應式的,相比傳統的線程池模型,虛擬線程並未帶來明顯收益
-
不甘心啊,接下來就換成SpringBoot應用,模擬咱們日常開發最常見的資料庫訪問場景,看看相比之下,差距有多大?
停止quarkus應用
- 由於打算將SpringBoot應用部署在quarkus應用所在電腦上,所以要先停掉quarkus應用,執行以下命令
sudo docker stop quarkus
啟動SpringBoot應用
- 新建名為application.properties的配置文件,內容是資料庫相關的參數,如下所示
spring.datasource.url=jdbc:postgresql://42.193.162.141:5432/quarkus_test
spring.datasource.username=quarkus
spring.datasource.password=123456
spring.datasource.driver-class-name=org.postgresql.Driver
spring.jpa.properties.hibernate.dialect=org.hibernate.dialect.PostgreSQLDialect
spring.jpa.properties.hibernate.hbm2ddl.auto=update
spring.datasource.hikari.maximum-pool-size=256
-
我這裡,application.properties的路徑是:/home/lighthouse/config/springboot/application.properties
-
檢查application.properties文件的可讀性,執行以下命令設置
sudo chmod a+r application.properties
- 執行以下命令即可部署和啟動springboot應用,註意application.properties文件的位置要換成您自己的配置文件路徑
docker run -idt \
--name springboot \
-p 8080:8080 \
-v /home/lighthouse/config/springboot/application.properties:/application/BOOT-INF/classes/application.properties \
bolingcavalry/springboot-postgresql-demo:x64-0.0.3
-
上述命令中,springboot應用的鏡像bolingcavalry/springboot-postgresql-demo:x64-0.0.3是我提前準備好的,本篇只管使用即可,至於如何製作此鏡像,接下來的文章會有詳細說明
-
看到以下日誌,證明應用啟動成功
. ____ _ __ _ _
/\\ / ___'_ __ _ _(_)_ __ __ _ \ \ \ \
( ( )\___ | '_ | '_| | '_ \/ _` | \ \ \ \
\\/ ___)| |_)| | | | | || (_| | ) ) ) )
' |____| .__|_| |_|_| |_\__, | / / / /
=========|_|==============|___/=/_/_/_/
:: Spring Boot :: (v2.7.4)
2022-10-16 13:01:01.022 INFO 1 --- [ main] .b.s.SpringbootPostgresqlDemoApplication : Starting SpringbootPostgresqlDemoApplication v0.0.1-SNAPSHOT using Java 11.0.13 on 5c25db81639e with PID 1 (/application/BOOT-INF/classes started by root in /application)
2022-10-16 13:01:01.025 INFO 1 --- [ main] .b.s.SpringbootPostgresqlDemoApplication : No active profile set, falling back to 1 default profile: "default"
2022-10-16 13:01:01.795 INFO 1 --- [ main] .s.d.r.c.RepositoryConfigurationDelegate : Bootstrapping Spring Data JPA repositories in DEFAULT mode.
2022-10-16 13:01:01.857 INFO 1 --- [ main] .s.d.r.c.RepositoryConfigurationDelegate : Finished Spring Data repository scanning in 47 ms. Found 1 JPA repository interfaces.
2022-10-16 13:01:02.392 INFO 1 --- [ main] o.s.b.w.embedded.tomcat.TomcatWebServer : Tomcat initialized with port(s): 8080 (http)
2022-10-16 13:01:02.405 INFO 1 --- [ main] o.apache.catalina.core.StandardService : Starting service [Tomcat]
2022-10-16 13:01:02.405 INFO 1 --- [ main] org.apache.catalina.core.StandardEngine : Starting Servlet engine: [Apache Tomcat/9.0.65]
2022-10-16 13:01:02.492 INFO 1 --- [ main] o.a.c.c.C.[Tomcat].[localhost].[/] : Initializing Spring embedded WebApplicationContext
2022-10-16 13:01:02.492 INFO 1 --- [ main] w.s.c.ServletWebServerApplicationContext : Root WebApplicationContext: initialization completed in 1364 ms
2022-10-16 13:01:02.701 INFO 1 --- [ main] o.hibernate.jpa.internal.util.LogHelper : HHH000204: Processing PersistenceUnitInfo [name: default]
2022-10-16 13:01:02.741 INFO 1 --- [ main] org.hibernate.Version : HHH000412: Hibernate ORM core version 5.6.11.Final
2022-10-16 13:01:02.867 INFO 1 --- [ main] o.hibernate.annotations.common.Version : HCANN000001: Hibernate Commons Annotations {5.1.2.Final}
2022-10-16 13:01:02.942 INFO 1 --- [ main] com.zaxxer.hikari.HikariDataSource : HikariPool-1 - Starting...
2022-10-16 13:01:03.164 INFO 1 --- [ main] com.zaxxer.hikari.HikariDataSource : HikariPool-1 - Start completed.
2022-10-16 13:01:03.179 INFO 1 --- [ main] org.hibernate.dialect.Dialect : HHH000400: Using dialect: org.hibernate.dialect.PostgreSQLDialect
2022-10-16 13:01:03.688 INFO 1 --- [ main] o.h.e.t.j.p.i.JtaPlatformInitiator : HHH000490: Using JtaPlatform implementation: [org.hibernate.engine.transaction.jta.platform.internal.NoJtaPlatform]
2022-10-16 13:01:03.695 INFO 1 --- [ main] j.LocalContainerEntityManagerFactoryBean : Initialized JPA EntityManagerFactory for persistence unit 'default'
- 驗證服務是否成功,訪問:http://192.168.0.1:8080/springboot/persons/1 ,如下圖,功能正常
壓測SpringBoot應用
- 壓測SpringBoot應用的k6腳本如下
import http from 'k6/http';
import { sleep, check } from 'k6';
export let options = {
vus: 30,
duration: '60s',
};
export default function () {
let r = Math.floor(Math.random() * 6) + 1;
const res = http.get(`http://192.168.0.1:8080/springboot/persons/${r}`);
check(res, {
'is status 200': (res) => res.status === 200,
'body size is > 0': (r) => r.body.length > 0,
});
sleep(1);
}
- 30併發壓測結果如下,這麼整齊,和quarkus的基本一致
- 300併發壓測結果如下,幾個關鍵指標依舊和quarkus保持對齊,這讓我覺得很索然無味
- 5000併發,終於有了點差距,但也不明顯,成功率91%,低於quarkus的95%,相比quarkus,SpringBoot的平均等待時間略高,QPS略低
- 至此,咱們通過實際對比的方式,已體驗過quarkus使用虛擬線程的web服務,同在quarkus框架中,虛擬線程帶來的提升並不明顯,在對比未做優化的SpringBoot應用時,也沒有在吞吐量方面帶來提升,但這一切都不能立即下定論,也許是欣宸的用法有嚴重問題...如果真有問題,聰明的您,在下一篇文章《編碼實戰》中一定會發現,如果真有問題,不要可憐我,懟我,讓我懺悔...
- 接下來的文章,咱們一起深入編程實戰,使用JDK19後,對JDK、maven、IDE、編譯構建、製作docker鏡像等方方面面相比以前都有變化,這些都會在文中逐一處理,咱們一起開發出使用虛擬線程的quarkus應