Java 21新特性-虛擬線程 審核中

来源:https://www.cnblogs.com/waynaqua/archive/2023/10/10/17753808.html
-Advertisement-
Play Games

Java 21 版本更新中最重要的功能之一就是虛擬線程 (JEP 444)。這些輕量級線程減少了編寫、維護和觀察高吞吐量併發應用程式所需的工作量。 ...


本文翻譯自國外論壇 medium,原文地址:https://medium.com/@benweidig/looking-at-java-21-virtual-threads-0ddda4ac1be1

Java 21 版本更新中最重要的功能之一就是虛擬線程 (JEP 444)。這些輕量級線程減少了編寫、維護和觀察高吞吐量併發應用程式所需的工作量。

正如我的許多其他文章一樣,在推出新功能之前,讓我們先看看 Java 21 版本更新前的現狀,以便更好地瞭解 Java 21 版本試圖解決的問題以及好處是什麼。

平臺線程

在引入虛擬線程之前,java.lang.Thread 包已經支持所謂的平臺線程。

這些線程通常以 1:1 的方式映射到操作系統調度的內核線程。操作系統線程相當“重”。這使得它們可以執行所有類型的任務。

根據操作系統和 JVM 啟動參數配置的不同,一個平臺線程預設消耗 1 MB 的空間。因此如果我們想在重負載高併發應用程式中使用一百萬個線程,我們最好有超過 1 TB 的空閑記憶體!

如上所述,平臺線程有一個明顯的記憶體瓶頸限制了我們實際上可以擁有的線程數量。

每個請求一個線程

每個請求使用單個線程有很多優點,例如更容易的狀態管理和清理。但它也造成了可擴展性限制。應用程式的“併發單元”(在本例中為請求)需要單個“併發平臺單元”(在本例中也就是平臺線程),但是在重負載高併發應用程式中,平臺線程容易因為記憶體不足、CPU 資源耗盡而創建失敗。

儘管“每個請求一個線程”有很多優點,平臺線程可以更均勻地利用硬體,但我們還是需要一種完全不同的方法。

使用線程池

與在單個線程上處理以個請求不同,當任務完成時,線程會被線程池回收,因此另一個請求可能會重用相同的線程。這允許我們的程式使用更少的線程處理更多的請求,但會帶來非同步編程的負擔。

非同步編程具有自己的範例,具有一定的學習曲線,並且可能使我們的程式更難以理解和遵循。請求的每個部分可能在不同的線程上執行,在沒有合理上下文的情況下創建堆棧跟蹤,並使調試變得非常棘手甚至幾乎不可能。

重新審視“每個請求一個線程”模型,很明顯,我們需要一種更輕量級的線程方法來解決這個瓶頸,並最好按照我們熟悉的方式。

輕量級線程

由於平臺線程的數量在不新增硬體資源的情況下無法改變,因此也就需要另一層抽象,以切斷首先產生瓶頸的可怕的 1:1 映射。

輕量級線程不依賴於特定的平臺線程,也不會為其分配大量記憶體。它們由運行時的 JVM 調度和管理而不是底層操作系統。這就是為什麼可以創建大量輕量級線程的原因。

輕量級線程的概念並不新鮮,許多語言都有某種形式的輕量級線程:

  • Go 語言中的 Goroutines(協程)
  • Erlang 語言中的 Processes(輕量級進程)
  • Haskell Threads

Java 也在 21 版本中引入了自己的輕量級線程實現:虛擬線程

虛擬線程

虛擬線程是一個新的輕量級 java.lang.Thread 變體,是 Project Loom 項目的一部分,不由操作系統管理或調度。相反由 JVM 負責調度。當然在實際工作反映到操作系統還是以平臺線程運行,但 JVM 正是利用所謂的載體線程(即平臺線程)來“承載”虛擬線程,以便在需要時執行。

JVM / OS 線程調度示意圖

所需的平臺線程以 FIFO 工作方式在 ForkJoinPool 中進行管理,預設情況下,它使用所有可用的處理器,但可以通過調整系統屬性 jdk.virtualThreadScheduler.parallelism 來根據我們的要求進行修改。我們熟悉的 ForkJoinPool 與並行流等其他功能使用的公共池之間的主要區別在於,公共池以 LIFO 模式運行。

物美價廉

虛擬線程是廉價且輕量級的,我們可以使用“每個請求一個線程”模型,而不必擔心實際需要多少個線程。如果我們的代碼在虛擬線程中調用阻塞 I/O 操作,則運行時會掛起這個被阻塞的虛擬線程,直到掛起結束後就可以恢復。這樣一來,程式對硬體的利用就可以達到近乎最佳並提供高水平的併發性,從而實現高吞吐量。

因為虛擬線程非常便宜,所以虛擬線程不會被重用或需要被池化。每個任務都由其自己的虛擬線程來執行。

設定界限

JVM 調度程式通過載體線程來管理虛擬線程,因此需要一定的邊界和分隔來確保可能的“無數”虛擬線程按預期運行。這是通過在載體線程和它可能承載的任何虛擬線程之間保持無線程關聯來實現的:

  • 虛擬線程無法訪問載體線程,Thread.currentThread() 返回虛擬線程本身。
  • 堆棧跟蹤是獨立的,虛擬線程中拋出的任何異常僅包含其自己的堆棧幀。
  • 虛擬線程的線程局部變數對其載體線程不可用,反之亦然。
  • 從代碼的角度來看,載體線程及其虛擬線程對平臺線程的共用是不可見的。

代碼展示

在我看來,虛擬線程最好的事情之一就是我們不需要學習新的編程範例或複雜的新 API,就能夠完成非同步編程。在使用上,我們可以像對待平臺線程一樣對待虛擬線程。

創建平臺線程

創建平臺線程很簡單,就像使用 Runnable 創建一樣:

Runnable fn = () -> {
  // your code here
};

Thread thread = new Thread(fn).start();

隨著 Project Loom 項目簡化了新的併發方法,還提供了一種創建平臺線程的新方法:

Thread thread = Thread.ofPlatform().
                      .start(runnable);

實際上,現在有一個完整的 Fluent API,因為 ofPlatform() 返回一個 Thread.Builder.OfPlatform 實例:

Thread thread = Thread.ofPlatform().
                      .daemon()
                      .name("my-custom-thread")
                      .unstarted(runnable);

但你來這裡顯然不是為了學習創建“舊”線程的新方法,你想要新的東西!

創建虛擬線程

對於虛擬線程,同樣有一個 Fluent API:

Runnable fn = () -> {
  // your code here
};

Thread thread = Thread.ofVirtual(fn)
                      .start();

除了構建器方法之外,我們還可以直接使用以下命令創建虛擬線程:

Thread thread = Thread.startVirtualThread(() -> {
  // your code here
});

由於所有虛擬線程始終都是守護線程,因此如果我們想在主線程上等待虛擬線程執行完畢,可以調用 join() 方法。

創建虛擬線程的另一種方法是使用 Executor 類:

var executorService = Executors.newVirtualThreadPerTaskExecutor();

executorService.submit(() -> {
  // your code here
});

總結

儘管作用域值 (JEP 446) 和結構化併發 (JEP 453) 仍然是 Java 21 中的預覽功能,但虛擬線程已經成為可投入生產的成熟功能。

虛擬線程是一種通用且強大的 Java 併發新方式,將對我們的未來程式產生重大影響。虛擬線程使用熟悉且可靠的“每個請求一個線程”方法,同時以最佳方式利用所有可用硬體,無需學習新範例或複雜的 API。

關註公眾號【waynblog】每周分享技術乾貨、開源項目、實戰經驗、國外優質文章翻譯等,您的關註將是我的更新動力!


您的分享是我們最大的動力!

-Advertisement-
Play Games
更多相關文章
  • 對於rpc項目,在接受大佬指導的時候曾問過對於長連接和短連接是處理處理的,在面試的時候也被問起socket是長連接還是短連接,發現自己沒有好好思考過這個問題,因此好好總結一下。 前置知識點:rpc基礎,tcp基礎 rpc項目中的長連接與短連接的思考 什麼是rpc項目中的長連接和短連接 類似於http ...
  • 4.1 環境搭建 創建名為spring_mvc_demo2的新module,過程參考3.1節 4.1.1、創建請求控制器 package org.rain.controller; import org.springframework.stereotype.Controller; /** * @aut ...
  • 一、當你擁有一個excel版的介面用例 excel中有用例名稱、url、請求方式和請求參數 二、獲取excel的Url、請求方式和請求參數 # 單獨獲取某個單元格的值,第二行第二列# 第二行數據 row代表行,column代表列# url=sh.cell(row=2,column=2).value# ...
  • 看到一篇 IDEA 快捷鍵的總結,非常全面,分享一下。 本文參考了 IntelliJ IDEA 的官網,列舉了IntelliJ IDEA(Windows 版)的所有快捷鍵。併在此基礎上,為 90% 以上的快捷鍵提供了動圖演示,能夠直觀的看到操作效果。 該快捷鍵共分 16 種,可以方便的按各類查找自己 ...
  • 本文深入探討了Go語言中通道(Channel)的各個方面,從基礎概念到高級應用。文章詳細解析了通道的類型、操作方法以及垃圾回收機制,更進一步通過具體代碼示例展示了通道在數據流處理、任務調度和狀態監控等多個實際應用場景中的作用。本文旨在為讀者提供一個全面而深入的理解,以更有效地使用Go中的通道進行併發 ...
  • 堆疊柱狀圖,是一種用來分解整體、比較各部分的圖。與柱狀圖類似,堆疊柱狀圖常被用於比較不同類別的數值。而且,它的每一類數值內部,又被劃分為多個子類別,這些子類別一般用不同的顏色來指代。 柱狀圖幫助我們觀察“總量”,堆疊柱狀圖則可以同時反映“總量”與“結構”。也就是說,堆疊柱狀圖不僅可以反映總量是多少? ...
  • 目錄XXLJob簡介特性模塊安裝調度中心初始化資料庫配置啟動整合執行器pomymlXxlJobConfig啟動執行器實踐簡單的定時任務在執行器創建任務在調度中心創建執行器在調度中心創建任務帶前置和後置處理的定時任務XxlJob註解詳解創建帶前(後)置處理的任務父子任務父子執行器關聯父子任務執行器側l ...
  • 用Rust手把手編寫一個wmproxy(代理,內網穿透等), HTTP內網穿透支持修改頭信息項目 涉及HTTP1.1 chunked, http2, keep-alive ...
一周排行
    -Advertisement-
    Play Games
  • 移動開發(一):使用.NET MAUI開發第一個安卓APP 對於工作多年的C#程式員來說,近來想嘗試開發一款安卓APP,考慮了很久最終選擇使用.NET MAUI這個微軟官方的框架來嘗試體驗開發安卓APP,畢竟是使用Visual Studio開發工具,使用起來也比較的順手,結合微軟官方的教程進行了安卓 ...
  • 前言 QuestPDF 是一個開源 .NET 庫,用於生成 PDF 文檔。使用了C# Fluent API方式可簡化開發、減少錯誤並提高工作效率。利用它可以輕鬆生成 PDF 報告、發票、導出文件等。 項目介紹 QuestPDF 是一個革命性的開源 .NET 庫,它徹底改變了我們生成 PDF 文檔的方 ...
  • 項目地址 項目後端地址: https://github.com/ZyPLJ/ZYTteeHole 項目前端頁面地址: ZyPLJ/TreeHoleVue (github.com) https://github.com/ZyPLJ/TreeHoleVue 目前項目測試訪問地址: http://tree ...
  • 話不多說,直接開乾 一.下載 1.官方鏈接下載: https://www.microsoft.com/zh-cn/sql-server/sql-server-downloads 2.在下載目錄中找到下麵這個小的安裝包 SQL2022-SSEI-Dev.exe,運行開始下載SQL server; 二. ...
  • 前言 隨著物聯網(IoT)技術的迅猛發展,MQTT(消息隊列遙測傳輸)協議憑藉其輕量級和高效性,已成為眾多物聯網應用的首選通信標準。 MQTTnet 作為一個高性能的 .NET 開源庫,為 .NET 平臺上的 MQTT 客戶端與伺服器開發提供了強大的支持。 本文將全面介紹 MQTTnet 的核心功能 ...
  • Serilog支持多種接收器用於日誌存儲,增強器用於添加屬性,LogContext管理動態屬性,支持多種輸出格式包括純文本、JSON及ExpressionTemplate。還提供了自定義格式化選項,適用於不同需求。 ...
  • 目錄簡介獲取 HTML 文檔解析 HTML 文檔測試參考文章 簡介 動態內容網站使用 JavaScript 腳本動態檢索和渲染數據,爬取信息時需要模擬瀏覽器行為,否則獲取到的源碼基本是空的。 本文使用的爬取步驟如下: 使用 Selenium 獲取渲染後的 HTML 文檔 使用 HtmlAgility ...
  • 1.前言 什麼是熱更新 游戲或者軟體更新時,無需重新下載客戶端進行安裝,而是在應用程式啟動的情況下,在內部進行資源或者代碼更新 Unity目前常用熱更新解決方案 HybridCLR,Xlua,ILRuntime等 Unity目前常用資源管理解決方案 AssetBundles,Addressable, ...
  • 本文章主要是在C# ASP.NET Core Web API框架實現向手機發送驗證碼簡訊功能。這裡我選擇是一個互億無線簡訊驗證碼平臺,其實像阿裡雲,騰訊雲上面也可以。 首先我們先去 互億無線 https://www.ihuyi.com/api/sms.html 去註冊一個賬號 註冊完成賬號後,它會送 ...
  • 通過以下方式可以高效,並保證數據同步的可靠性 1.API設計 使用RESTful設計,確保API端點明確,並使用適當的HTTP方法(如POST用於創建,PUT用於更新)。 設計清晰的請求和響應模型,以確保客戶端能夠理解預期格式。 2.數據驗證 在伺服器端進行嚴格的數據驗證,確保接收到的數據符合預期格 ...