本文是《緩存在分散式系統中的應用》第三篇文章。上次主要給大家分享了，緩存在分散式系統中的應用，主要從不同的場景，介紹了CDN，反向代理，分散式緩存，本地緩存的常規架構和基本原理。因為時間關於，原計劃分享《緩存常見問題》的內容，沒有講。本次主要針對緩存的常見個問題，做一個介紹。 ...
本文是《緩存在分散式系統中的應用》第三篇文章。
上次主要給大家分享了，緩存在分散式系統中的應用，主要從不同的場景，介紹了CDN，反向代理，分散式緩存，本地緩存的常規架構和基本原理。
因為時間關於，原計劃分享《緩存常見問題》的內容，沒有講。本次主要針對緩存的常見個問題，做一個介紹。主要有以下議題：
一、分享大綱
- 分享大綱
- 數據一致性
- 緩存高可用
- 緩存雪崩
- 緩存穿透
- 參考資料
- 分享總結
二、數據一致性
緩存是在數據持久化之前的一個節點，主要是將熱點數據放到離用戶最近或訪問速度更快的介質中，加快數據的訪問，減小響應時間。
因為緩存屬於持久化數據的一個副本，因此不可避免的會出現數據不一致問題。導致臟讀或讀不到數據的情況。數據不一致，一般是因為網路不穩定或節點故障導致。根據數據的操作順序，主要有以下幾種情況。
2.1場景介紹
（1）先寫緩存，再寫資料庫
如下圖：
假如緩存寫成功，但寫資料庫失敗或響應延遲，則下次讀取（併發讀）緩存時，就出現臟讀；
（2）先寫資料庫，再寫緩存
如下圖：
假如寫資料庫成功，但寫緩存失敗，則下次讀取（併發讀）緩存時，則讀不到數據；
（3）緩存非同步刷新
指資料庫操作和寫緩存不在一個操作步驟中，比如在分散式場景下，無法做到同時寫緩存或需要非同步刷新（補救措施）時候。
此種情況，主要考慮數據寫入和緩存刷新的時效性。比如多久內刷新緩存，不影響用戶對數據的訪問。
2.2解決方法
第一個場景：
這個寫緩存的方式，本身就是錯誤的，需要改為先寫持久化介質，再寫緩存的方式。
第二個場景：
（1）根據寫入緩存的響應來進行判斷，如果緩存寫入失敗，則回滾資料庫操作；此種方法增加了程式的複雜度，不建議採用；
（2）緩存使用時，假如讀緩存失敗，先讀資料庫，再回寫緩存的方式實現。
第三個場景：
（1）首先確定，哪些數據適合此類場景；
（2）根據經驗值確定合理的數據不一致時間，用戶數據刷新的時間間隔；
2.3 其他方法
（1）超時：設置合理的超時時間；
（2）刷新：定時刷新一定範圍內（根據時間，版本號）的數據；
以上是簡化數據讀寫場景，實際中會分為：
（1）緩存與資料庫之間的一致性；
（2）多級緩存之前的一致性；
（3）緩存副本之前的一致性。
三、緩存高可用
業界有兩種理論，第一套緩存就是緩存，臨時存儲數據的，不需要高可用。第二種緩存逐步演化為重要的存儲介質，需要做高可用。
本人的看法是，緩存是否高可用，需要根據實際的場景而定。臨界點是是否對後端的資料庫造成影響。
具體的決策依據需要根據，集群的規模（數據，緩存），成本（伺服器，運維），系統性能（併發量，吞吐量，響應時間）等方面綜合評價。
3.1解決方法
緩存的高可用，一般通過分散式和複製實現。分散式實現數據的海量緩存，複製實現緩存數據節點的高可用。架構圖如下：
其中，分散式採用一致性Hash演算法，複製採用非同步複製。
3.2其他方法
（1）複製雙寫：緩存節點的複製，由非同步改為雙寫，只有兩份都寫成功，才算成功。
（2）虛擬層：一致性Hash存在，假如其中一個HASH環不可用，數據會寫入臨近的環，當HASH可用時，數據又寫入正常的HASH環，會導致數據偏移問題。這種情況，可以考慮在HASH環前面加一個虛擬層實現。
（3）多級緩存：比如一級使用本地緩存，二級採用分散式Cahce，三級採用分散式Cache+本地持久化；
方式很多，需要根據業務場景靈活選擇。
四、緩存雪崩
雪崩是指當大量緩存失效時，導致大量的請求訪問資料庫，導致資料庫伺服器，無法抗住請求或掛掉的情況。
解決方法：
（1）合理規劃緩存的失效時間；
（2）合理評估資料庫的負載壓力；
（3）對資料庫進行過載保護或應用層限流；
（4）多級緩存設計，緩存高可用；
五、緩存穿透
緩存一般是Key，value方式存在，當某一個Key不存在時會查詢資料庫，假如這個Key，一直不存在，則會頻繁的請求資料庫，對資料庫造成訪問壓力。
解決方法：
（1）對結果為空的數據也進行緩存，當此key有數據後，清理緩存；
（2）一定不存在的key，採用布隆過濾器，建立一個大的Bitmap中，查詢時通過該bitmap過濾；
六、參考資料
以下是本次分享參考的資料和推薦大家參考的資料。
MemCache超詳細解讀：http://www.mamicode.com/info-detail-1120932.html
緩存與資料庫一致性保證：http://www.36dsj.com/archives/43950
HASH環和虛擬節點：http://www.111cn.net/sys/linux/58748.htm
讓memcached分散式：http://blog.csdn.net/cutesource/article/details/5848253
七、分享總結
以上是本周的分享，主要講解了緩存常見的問題，包括數據一致性，緩存高可用，緩存雪崩，緩存穿透等知識。
我們的分享只是介紹一下知識結構，希望可以起到一個拋磚引玉的作用。因為，每個知識點都有一些細化的地方，需要學習的知識點很多，需要大家不斷深入學習。也歡迎大家把好的內容，即時的分享到群內（知識鏈接或參加周知識分享，參加周知識分享的同學可以直接聯繫我哈~~）
下次分享《分散式系統服務化架構（一）》，2016年6月26日。
本次是分享規則調整後的第一次，歡迎大家積極提出問題。
