作者:小牛呼嚕嚕 | https://xiaoniuhululu.com 電腦內功、JAVA源碼、職業成長、項目實戰、面試相關資料等更多精彩文章在公眾號「小牛呼嚕嚕」 前言 讀過筆者之前的一篇文章Java記憶體模型(JMM)詳解, 我們知道了由於電腦為了充分利用CPU的高性能,以及各個硬體 存取速 ...
作者:小牛呼嚕嚕 | https://xiaoniuhululu.com
電腦內功、JAVA源碼、職業成長、項目實戰、面試相關資料等更多精彩文章在公眾號「小牛呼嚕嚕」
前言
讀過筆者之前的一篇文章Java記憶體模型(JMM)詳解, 我們知道了由於電腦為了充分利用CPU的高性能,以及各個硬體 存取速度巨大的差異帶來的一系列問題
- 為了充分壓榨CPU的性能,CPU 會對指令亂序執行或者語言的編譯器會指令重排,讓CPU一直工作不停歇,但同時會導致有序性問題。
- 為了平衡CPU的寄存器和記憶體的速度差異,電腦的CPU 增加了高速緩存,但同時導致了 可見性問題
- 為了平衡CPU 與 I/O 設備的速度差異,操作系統增加了進程、線程概念,以分時復用 CPU,但同時導致了原子性問題。
Java 是最早嘗試提供記憶體模型的編程語言。由於Java 語言是跨平臺的,另外各個操作系統總存在一些差異,Java在物理機器的基礎上抽象出一個 記憶體模型(JMM),來簡化和管理併發程式。我們都知道Java併發的三大特性:原子性,可見性,有序性
- 原子性指的是一個不可以被分割的操作,即這個操作在執行過程中不能被中斷,要麼全部不執行,要麼全部執行。且一旦開始執行,不會被其他線程打斷。
- 可見性 指的是一個線程修改了共用變數後,其他線程能立即感知這個變數被修改。
- 有序性 指程式按照代碼的先後順序執行。 在Java記憶體模型中,為了提升效率是允許編譯器和處理器對指令進行重排序,當然重排序不會影響單線程的運行結果,但是對多線程會有影響
那麼本文我們就聊聊關鍵字volatile ,可能是 Java 中最微妙和最難用的關鍵字
, 看看其在Java記憶體模型中是如何保證併發操作的原子性、可見性、有序性的?
讀本文前,可參考JMMhttps://mp.weixin.qq.com/s/iyXN4WyGAV_J4d8zeiG7yA里的每張圖,先理解JMM記憶體模型
什麼是volatile關鍵字
volatile是Java中用於修飾變數的關鍵字,其可以保證該變數的可見性以及順序性,但是無法保證原子性。更準確地說是volatile關鍵字
只能保證單操作的原子性,比如 x=1
,但是無法保證複合操作的原子性,比如x++
其為Java提供了一種輕量級的同步機制:保證被volatile修飾的共用變數對所有線程總是可見的,也就是當一個線程修改了一個被volatile修飾共用變數的值,新值總是可以被其他線程立即得知
。相比於synchronized關鍵字
(synchronized通常稱為重量級鎖),volatile更輕量級,開銷低,因為它不會引起線程上下文的切換和調度
。
保證可見性
可見性:是指當多個線程訪問同一個變數時,一個線程修改了這個變數的值,其他線程能夠立即看到修改的值。我們一起來看一個例子:
public class VisibilityTest {
private boolean flag = true;
public void change() {
flag = false;
System.out.println(Thread.currentThread().getName() + ",已修改flag=false");
}
public void load() {
System.out.println(Thread.currentThread().getName() + ",開始執行.....");
int i = 0;
while (flag) {
i++;
}
System.out.println(Thread.currentThread().getName() + ",結束迴圈");
}
public static void main(String[] args) throws InterruptedException {
VisibilityTest test = new VisibilityTest();
// 線程threadA模擬數據載入場景
Thread threadA = new Thread(() -> test.load(), "threadA");
threadA.start();
// 讓threadA執行一會兒
Thread.sleep(1000);
// 線程threadB 修改 共用變數flag
Thread threadB = new Thread(() -> test.change(), "threadB");
threadB.start();
}
}
其中:threadA 負責迴圈,threadB負責修改 共用變數flag,如果flag=false時,threadA 會結束迴圈,但是上面的例子會死迴圈! 原因是threadA無法立即讀取到共用變數flag修改後的值
。
我們只需 private volatile boolean flag = true;
,加上volatile關鍵字threadA就可以立即退出迴圈了。
其中Java中的volatile關鍵字提供了一個功能:那就是被volatile修飾的變數P被修改後,JMM會把該線程本地記憶體中的這個變數P,立即強制刷新到主記憶體中去,導致其他線程中的volatile變數P緩存無效,也就是說其他線程使用volatile變數P在時,都是從主記憶體刷新的最新數據
。而普通變數的值線上程間傳遞的時候一般是通過主記憶體以共用記憶體的方式實現的;
因此,可以使用volatile
來保證多線程操作時變數的可見性。除了volatile
,Java
中的synchronized
和final
兩個關鍵字 以及各種 Lock
也可以實現可見性。加鎖的話, 當一個線程進入 synchronized
代碼塊後,線程獲取到鎖,會清空本地記憶體,然後從主記憶體中拷貝共用變數的最新值到本地記憶體作為副本,執行代碼,又將修改後的副本值刷新到主記憶體中,最後線程釋放鎖。
保證有序性
有序性,顧名思義即程式執行的順序按照代碼的先後順序執行。但現代的電腦中CPU中為了能夠讓指令的執行儘可能地同時運行起來,提示電腦性能,採用了指令流水線。一個 CPU 指令的執行過程可以分成 4 個階段:取指、解碼、執行、寫回
。這 4 個階段分別由 4 個獨立物理執行單元來完成。
理想的情況是:指令之間無依賴,可以使流水線的並行度最大化 但是如果兩條指令的前後存在依賴關係,比如數據依賴,控制依賴等,此時後一條語句就必需等到前一條指令完成後,才能開始。所以CPU為了提高流水線的運行效率,對無依賴的前後指令做適當的亂序和調度,即現代的電腦中CPU是亂序執行指令的
另一方面,只要不會改變程式的運行結果,Java編譯器是可以通過指令重排來優化性能。然而,重排可能會影響本地處理器緩存與主記憶體交互的方式,可能導致在多線程的情況下發生"細微"的BUG。
指令重排一般可以分為如下三種類型:
- 編譯器優化重排序,編譯器在不改變單線程程式語義的前提下,可以重新安排語句的執行順序。
- 指令級並行重排序,現代處理器採用了指令級並行技術來將多條指令重疊執行。如果不存在數據依賴性,處理器可以改變語句對應機器指令的執行順序。
- 記憶體系統重排序,由於處理器使用緩存和讀 / 寫緩衝區,這使得載入和存儲操作看上去可能是在亂序執行。這並不是顯式的將指令進行重排序,只是因為緩存的原因,讓指令的執行看起來像亂序。
從 Java 源代碼到最終執行的指令序列,一般會經歷下麵三種重排序:
變數初始化賦值
我們一起來看一個例子,讓大家體悟volatile關鍵字
的禁止指令重排的作用:
int i = 0;
int j = 0;
int k = 0;
i = 10;
j = 1;
對於上面的代碼我們正常的執行流程是:
- 初始化i
- 初始化j
- 初始化k
- i賦值
- j賦值
但由於指令重排序問題,代碼的執行順序未必就是編寫代碼時候的順序。語句可能的執行順序如下:
- 初始化i
- i賦值
- 初始化j
- j賦值
- 初始化k
指令重排對於非原子性的操作,在不影響最終結果的情況下,其拆分成的原子操作可能會被重新排列執行順序,提升性能。指令重排不會影響單線程的執行結果,但是會影響多線程併發執行的結果正確性。
但當我們用volatile
修飾變數k時:
int i = 0;
int j = 0;
volatile int k = 0;
i = 10;
j = 1;
這樣會保證上面代碼執行順序:變數i和j的初始化,在volatile int k = 0
之前,變數i和j的賦值操作在volatile int k = 0
後面
懶漢式單例 -- 雙重校驗鎖 volatile版
我們可以使用volatile關鍵字
去阻止重排 volatile變數
周圍的讀寫指令,這種操作通常稱為 memory barrier (記憶體屏障),詳情可見:https://mp.weixin.qq.com/s/TyiCfVMeeDwa-2hd9N9XJQ 中 懶漢式單例 -- 雙重校驗鎖 volatile版
隱藏特性
volatile關鍵字除了禁止指令重排的作用,還有一個特性:
當線程向一個volatile 變數
寫入時,線上程寫入之前的其他所有變數(包括非volatile變數
)也會刷新到主記憶體。當線程讀取一個 volatile變數
時,它也會讀取其他所有變數(包括非volatile變數
)與volatile變數
一起刷新到主記憶體。
儘管這是一個重要的特性,但是我們不應該過於依賴這個特性,來"自動"使周圍的變數變得volatile
,若是我們想讓一個變數是volatile
的,我們編寫程式的時候需要非常明確地用volatile關鍵字
來修飾。
無法保證原子性
volatile關鍵字無法保證原子性,更準確地說是volatile關鍵字
只能保證單操作的原子性,比如 x=1
,但是無法保證複合操作的原子性,比如x++
所謂原子性:即一個或者多個操作作為一個整體,要麼全部執行,要麼都不執行,並且操作在執行過程中不會被線程調度機制打斷;而且這種操作一旦開始,就一直運行到結束,中間不會有任何上下文切換(context switch)
int = 0; //語句1,單操作,原子性的操作
i++; //語句2,複合操作,非原子性的操作
其中:語句2i++
其實在Java中執行過程,可以分為3步:
- i 被從局部變數表(記憶體)取出,
- 壓入操作棧(寄存器),操作棧中自增
- 使用棧頂值更新局部變數表(寄存器更新寫入記憶體)
執行上述3個步驟的時候是可以進行線程切換的,或者說是可以被另其他線程的 這3 步打斷的,因此語句2
不是一個原子性操作
volatile版 i++
我們再來看一個例子:
public class Test1 {
public static volatile int val;
public static void add() {
for (int i = 0; i < 1000; i++) {
val++;
}
}
public static void main(String[] args) throws InterruptedException {
Thread t1 = new Thread(Test1::add);
Thread t2 = new Thread(Test1::add);
t1.start();
t2.start();
t1.join();//等待該線程終止
t2.join();
System.out.println(val);
}
}
2個線程各迴圈2000次,每次+1
,如果volatile關鍵字
能夠保證原子性,預期的結果是2000
,但實際結果卻是:1127
,而且多次執行的結果都不一樣,可以發現volatile關鍵字
無法保證原子性。
synchronized版 i++
我們可以利用synchronized關鍵字
來解決上面的問題:
public class SynchronizedTest {
public static int val;
public synchronized static void add() {
for (int i = 0; i < 1000; i++) {
val++;
}
}
public static void main(String[] args) throws InterruptedException {
Thread t1 = new Thread(SynchronizedTest::add);
Thread t2 = new Thread(SynchronizedTest::add);
t1.start();
t2.start();
t1.join();//等待該線程終止
t2.join();
System.out.println(val);
}
}
運行結果:2000
Lock版 i++
我們還可以通過加鎖來解決上述問題:
public class LockTest {
public static int val;
static Lock lock = new ReentrantLock();
public static void add() {
for (int i = 0; i < 1000; i++) {
lock.lock();//上鎖
try {
val++;
}catch(Exception e) {
e.printStackTrace();
}finally {
lock.unlock();//解鎖
}
}
}
public static void main(String[] args) throws InterruptedException {
Thread t1 = new Thread(LockTest::add);
Thread t2 = new Thread(LockTest::add);
t1.start();
t2.start();
t1.join();//等待該線程終止
t2.join();
System.out.println(val);
}
}
運行結果:2000
Atomic版 i++
Java從JDK 1.5開始提供了java.util.concurrent.atomic
包(以下簡稱Atomic包),這個包中的原子操作類, 靠CAS迴圈
的方式來保證其原子性,是一種用法簡單、性能高效、線程安全地更新一個變數的方式。
這些類可以保證多線程環境下,當某個線程在執行atomic的方法時,不會被其他線程打斷,而別的線程就像自旋鎖一樣,一直等到該方法執行完成,才由JVM從等待隊列中選擇一個線程執行。
我們來用atomic
包來解決volatile原子性的問題:
public class AtomicTest {
public static AtomicInteger val = new AtomicInteger();
public static void add() {
for (int i = 0; i < 1000; i++) {
val.getAndIncrement();
}
}
public static void main(String[] args) throws InterruptedException {
Thread t1 = new Thread(AtomicTest::add);
Thread t2 = new Thread(AtomicTest::add);
t1.start();
t2.start();
t1.join();//等待該線程終止
t2.join();
System.out.println(val);
}
}
運行結果:2000
, 如果我們維護現有的項目,如果遇到volatile變數最好將其替換為Atomic 變數,除非你真的特別瞭解volatile。Atomic 就不展開說了,先挖個坑,以後補上
volatile 原理
當大家仔細讀完上文的懶漢式單例 -- 雙重校驗鎖 volatile版
,會發現volatile關鍵字
修飾變數後,我們反彙編後會發現 多出了lock
首碼指令,lock首碼指令在彙編中 LOCK指令首碼功能如下:
- 被修飾的彙編指令成為"原子的"
- 與被修飾的彙編指令一起提供"記憶體屏障"效果(
lock指令
可不是記憶體屏障)
記憶體屏障主要分類:
- 一類是可以強制讀取主記憶體,強制刷新主記憶體的記憶體屏障,叫做
Load屏障
和Store屏障
- 另一類是禁止指令重排序的記憶體屏障,主要有四個分別叫做
LoadLoad屏障
、StoreStore屏障
、LoadStore屏障
、StoreLoad屏障
這4個屏障具體作用:
- LoadLoad屏障:(指令Load1; LoadLoad; Load2),在Load2及後續讀取操作要讀取的數據被訪問前,保證Load1要讀取的數據被讀取完畢。
- LoadStore屏障:(指令Load1; LoadStore; Store2),在Store2及後續寫入操作被刷出前,保證Load1要讀取的數據被讀取完畢。
- StoreStore屏障:(指令Store1; StoreStore; Store2),在Store2及後續寫入操作執行前,保證Store1的寫入操作對其它處理器可見。
- StoreLoad屏障:(指令Store1; StoreLoad; Load2),在Load2及後續所有讀取操作執行前,保證Store1的寫入對所有處理器可見。它的開銷是四種屏障中最大的。在大多數處理器的實現中,這個屏障是個萬能屏障,兼具其它三種記憶體屏障的功能
對於volatile操作而言,其操作步驟如下:
- 每個volatile寫入之前,插入一個 StoreStore,寫入以後插入一個 StoreLoad
- 每個volatile讀取之前,插入一個 LoadLoad,讀取之後插入一個 LoadStore
我們再總結以下,用volatile關鍵字
修飾變數後,主要發生的變化有哪些?:
- 當一個線程修改了 volatile 修飾的變數,當修改後的變數寫回主記憶體時,其他線程能立即看到最新值。即volatile關鍵字保證了併發的可見性
- 使用volatile關鍵字修飾共用變數後,每個線程要操作該變數時會從主記憶體中將變數拷貝到本地記憶體作為副本,但當線程操作完變數副本,會強制將修改的值立即寫入主記憶體中。
- 然後通過 CPU匯流排嗅探機制告知其他線程中該變數副本全部失效,(在CPU層,一個處理器的緩存回寫到記憶體會導致其他處理器的緩存行無效),若其他線程需要該變數,必須重新從主記憶體中讀取。
- 在x86的架構中,volatile關鍵字 底層 含有lock首碼的指令,與被修飾的彙編指令一起提供"記憶體屏障"效果,禁止了指令重排序,保證了併發的有序性
確保一些特定操作執行的順序,讓cpu必須按照順序執行指令,即當指令重排序時不會把其後面的指令排到記憶體屏障之前的位置,也不會把前面的指令排到記憶體屏障的後面;即在執行到記憶體屏障這句指令時,在它前面的操作已經全部完成;
- volatile關鍵字無法保證原子性,更準確地說是
volatile關鍵字
只能保證單操作的原子性,比如x=1
,但是無法保證複合操作的原子性,比如x++
。
有人可能問賦值操作是原子操作,本來就是原子性的,用volatile修飾有什麼意義?
在Java 數據類型足夠大的情況下(在 Java 中 long 和 double 類型都是 64 位),寫入變數的過程分兩步進行,就會發生 Word tearing (字分裂)情況。 JVM 被允許將64位數量的讀寫作為兩個單獨的32位操作執行,這增加了在讀寫過程中發生上下文切換的可能性,多線程的情況下可能會出現值會被破壞的情況在缺乏任何其他保護的情況下,用 volatile 修飾符定義一個 long 或 double 變數,可阻止字分裂情況
參考資料:
《On Java 8》
《Java併發編程》
《深入理解JVM虛擬機》
http://ifeve.com/jmm-cookbook-reorderings
http://ifeve.com/jmm-cookbook-mb
本篇文章到這裡就結束啦,很感謝靚仔你能看到最後,如果覺得文章對你有幫助,別忘記關註我!更多精彩的文章
電腦內功、JAVA源碼、職業成長、項目實戰、面試相關資料等更多精彩文章在公眾號「小牛呼嚕嚕」