首先奉獻caching的開源地址[微軟源碼]1.工程架構為了提高程式效率,我們經常將一些不頻繁修改,但是使用了還很大的數據進行緩存。尤其是互聯網產品,緩存可以說是提升效率優化第一利器。微軟為我們實現了倆種緩存方式:記憶體緩存、分散式緩存。個人理解如果緩存在前端電腦記憶體的緩存叫做記憶體緩存,如果緩存在其它...
首先奉獻caching的開源地址[微軟源碼]
1.工程架構
為了提高程式效率,我們經常將一些不頻繁修改,但是使用了還很大的數據進行緩存。尤其是互聯網產品,緩存可以說是提升效率優化第一利器。微軟為我們實現了倆種緩存方式:記憶體緩存、分散式緩存。個人理解如果緩存在前端電腦記憶體的緩存叫做記憶體緩存,如果緩存在其它設備上,那麼叫做分散式緩存。
- 倆種緩存方式的優缺點
我開發程式經歷過三個時間點,開始的時候從來不使用緩存,之後將數據緩存在記憶體中,最後使用分散式緩存。記憶體緩存的優點是速度快,缺點是記憶體損耗比較大,可能緩存的數據太大的時候就放不下了,另外一個缺點就是對於多前端程式的原則上是不支持的。而分散式緩存的優點是,理論上緩存大小沒有上線,可以通過擴充物理硬體進行擴展,對於多前端支持的較好。
Microsoft.Framework.Caching.Abstractions
這個工程定義的是緩存的整體架構。我們的思想是面向介面編程,而不是面向實現編程。所以該工程定義了我們想要的介面
從上圖顯而易見,微軟將記憶體緩存和分散式緩存割裂開來,而不是我們一般意義上定義一個ICache介面,之後讓IMemoryCache和IDistributedCache分別繼承ICache介面。
所以我們用分散式緩存,記憶體緩存原則不能無縫的直接切換。需要我們修改程式代碼,或者進行適配封裝。
- 分散式緩存
這部分包含內容只包含簡單的倆點:配置項(DistributedCacheEntryOptions)、緩存介面(IDistributedCache)。而DistributedCacheEntryExtentions是DistributedCacheEntryOptions的擴展方法包裝類,CaceheExtensions是IDistributedCache擴展方法包裝類,CacheItemPriority是優先順序枚舉。
- 記憶體緩存
記憶體緩存,微軟的設計就比較複雜,考慮到方方面面。首先時緩存的配置項(IMemoryCacheEntryOptions)、緩存介面(IMemoryCache)以及它們擴展項(MemoryCacheEntryExtentions、CacheExtentions)。
但是微軟的想法,緩存不止應該只有過期失效,當我程式update一個欄位後,我想通知記憶體緩存,我更改了,那又該怎麼辦呢?於是微軟設計了右上角的部分(*由於代碼的持續更新原因右上角部分的介面已經被去掉,由IList<IChangeToken> ExpirationTokens { get; }屬性替代,但是原則都是一樣的,即外部通知內部,數據已經更新)。
既然外部數據更新能通知緩存,那反向呢?緩存更新是否能夠通知外部使用對象呢?答案是這個可以支持,所有上邊框,下麵的部分。
既然能外部修改通知內部,內部修改也能通知外部應用程式。設計已經趨近完美了?微軟說還不夠,於是上圖左邊的部分產生了。它的意義就是,我可以為緩存創建一個範圍,至於範圍是做什麼的?答案是“我也不知道”,但是從記憶體緩存的實現上來看,是用於整體緩存token等信息的。
緩存配置項的時間選項:AbsoluteExpiration、AbsoluteExpirationRelativeToNow、SlidingExpiration。分別表示的是絕對的過期時間點、相對於現在多久的絕對過期時間點,有效期時長。我們註意下類型AbsoluteExpiration是DateTimeOffset不是DateTime。(*DateTimeOffset 是對於1970年1月1日0時的時間偏移量,和DateTime相比,缺少時區的概念。而此處不需要有時區相關概念,所以選用了DateTimeOffset )。
Microsoft.Extensions.Caching.Memory
記憶體緩存的實現。此處代碼結構如下圖所示:
- 大邏輯
1,緩存太大時,壓縮緩存空間(個人理解)
系統創建記憶體緩存對象(MemoryCache)的時候,同時創建GcNotification對象,之後GcNotification對象立馬失效。GC需要析構的時候,會調用GcNotification的析構函數,析構函數被調用後會執行CallBack函數(定義在MemoryCache),之後再次註冊析構函數,迴圈往複的如此。所以當記憶體占用太高的時候,緩存會縮減緩存空間。
if (reRegister && !Environment.HasShutdownStarted) { GC.ReRegisterForFinalize(this); }註冊析構函數
2,緩存對象(MemoryCache)的釋放,沒有對象引用緩存的話,難免GC會回收緩存對象。那麼怎麼避免緩存被GC回收?下麵代碼的思路還是不錯的
~MemoryCache() { Dispose(false); } public void Dispose() { Dispose(true); } protected virtual void Dispose(bool disposing) { if (!_disposed) { if (disposing) { GC.SuppressFinalize(this); } _disposed = true; } } private void CheckDisposed() { if (_disposed) { throw new ObjectDisposedException(typeof(MemoryCache).FullName); } }緩存對象析構
3,IEntryLink對象的跨線程訪問
緩存過期的時候,很可能不是本線程訪問的,可能是另外一個線程,通過獲取IEntryLink,之後通過IChangeToken對象通知緩存,所以不同線程間必須是可以共用IEntryLink對象。此處使用的是CallContext.LogicalGetData與CallContext.LogicalSetData。關於線程見數據通信,請參考“如何實現對上下文(Context)數據的統一管理”
internal static class EntryLinkHelpers { private const string ContextLinkDataName = "EntryLinkHelpers.ContextLink"; public static EntryLink ContextLink { get { var handle = CallContext.LogicalGetData(ContextLinkDataName) as ObjectHandle; if (handle == null) { return null; } return handle.Unwrap() as EntryLink; } set { CallContext.LogicalSetData(ContextLinkDataName, new ObjectHandle(value)); } } internal static IEntryLink CreateLinkingScope() { var parentLink = ContextLink; var newLink = new EntryLink(parent: parentLink); ContextLink = newLink; return newLink; } internal static void DisposeLinkingScope() { var currentLink = ContextLink; var priorLink = ((EntryLink)currentLink).Parent; ContextLink = priorLink; } }EntryLinkHelpers代碼示例
未完待續......